RAG 與可抽換模型成主流,但微調陣營沒有缺席
楊立偉(意藍資訊)與林縣城(叡揚資訊)主張 model-agnostic 架構+RAG 才追得上模型迭代速度;但同一場次稍後登場的蔡宗翰卻用 EduTAIDE 合格率 76%(vs. GPT-4o 51%)反駁,李明達(宮廟 AI)更明確反對 RAG 與 LoRA、堅持 70B 以上模型做全參數微調。年會現場沒有人出面調和這個分歧。
第七屆台灣人工智慧年會,2024 年 9 月 27 日至 28 日於台北中央研究院舉行——兩天議程、五個分軌,71 位講者帶來 58 場演講,探討人工智慧如何重塑台灣的產業、治理與社會。
五個分軌、十一個場次區塊——點進去看逐場完整名單。
副總統蕭美琴致詞後,童子賢與黃志芳兩場 Keynote 把 AI 放進地緣政治與半導體戰略的框架,蔡明順介紹台灣人工智慧學校的發展歷程。
從邊緣運算、自駕模擬、電信 AI 2.0,到國網中心的算力布局與中鋼「AI 落地三層次」方法論,橫跨電信、製造、學研的智慧轉型案例。
金融、資安、電信、製造業導入生成式 AI 的實戰案例;楊政霖揭露 RAG 框架的資安漏洞,並權衡資安產品導入 LLM 的效益與風險。
從晶片、NPU 到雲端平台的算力基礎建設;群聯林緯展示如何用 NAND Flash SSD 大幅壓低 GPU 記憶體擴充成本。
Breeze 2.0 開源繁體中文模型、TAIDE 多模態的資料瓶頸、Cadence 用強化學習優化晶片設計,以及翁浩正對生成式 AI 紅隊攻擊力的系統性盤點。
李育杰追溯「Sovereign AI」一詞的流行由來並揭露 TAIDE 真實資源規模;隨後的座談中,簡立峰、許永真、李育杰對主權 AI 該優先解決什麼問題正面交鋒。
蔡宗翰與楊立偉在同一場次對 fine-tune 與 RAG 給出相反結論;財政部張文熙分享 AI 選案查稅實績;廖弘源介紹晶創台灣十年 3,000 億計畫;最後由紀念講座與閉幕致詞收尾。
資拓宏宇、科科科技、91APP、叡揚資訊橫跨零售、串流與企業知識管理的 AI 落地案例。
工研院許凱程展示 Agentic LLM 把 X 光判讀正確率從 5–6 成拉高到 9 成以上;臺中榮總與 Jubo 分享智慧醫院與長照的第一線案例。
十場短講涵蓋 Accucrazy 的 AI 業配文、沈宜婷用去除限制的 Ollama 模型自動化打穿 Linux 拿到 root 的現場 demo,以及能源、製造、醫療的多模態應用。
游家牧、卞中佩、王向榮、邱文聰就隱私強化技術、社科資料共享、開源實踐與資料治理法草案展開辯論;邱文聰更正面反駁「技術能解決一切」的預設。
把場次完全打散,依技術與產業的演進脈絡重新組織,看 2024 年 AI 走到哪裡。
楊立偉(意藍資訊)與林縣城(叡揚資訊)主張 model-agnostic 架構+RAG 才追得上模型迭代速度;但同一場次稍後登場的蔡宗翰卻用 EduTAIDE 合格率 76%(vs. GPT-4o 51%)反駁,李明達(宮廟 AI)更明確反對 RAG 與 LoRA、堅持 70B 以上模型做全參數微調。年會現場沒有人出面調和這個分歧。
陳宜昌的 Breeze 2.0 已是本屆技術完成度最高的自研模型,但黃瀚萱攤開 TAIDE 多模態的真實瓶頸——合法授權、與台灣相關的圖片 Wikipedia 上僅約 1,300 張;楊政霖指出開源語料繁體中文比例約僅百萬分之四;蔡祈岩也提到 Whisper 持續聽錯台灣國台客語混雜的說話方式。授權資料太少、訓練語料佔比太低、評測集不存在、口音資料庫不足——四個不同產業的講者,指向同一個結構性瓶頸。
群聯用 NAND Flash SSD 幫 GPU 擴充記憶體,把 LLaMA 3.2 90B 模型地端訓練成本從 3,000 萬台幣砍到 100 萬以下;MSI 主張電競筆電的獨立顯卡就是「地表最強的 AIPC」;國網中心與晶創計畫都明講採購「不要一次全押」,搭配 AMD、Intel 多元化;Cadence 則用強化學習引擎 Cerebrus 與生成式 AI 工具 Voltus InsightAI,把晶片設計端的算力成本壓低。不是等 GPU 降價,而是在記憶體架構、既有硬體定位、採購策略與設計流程上動手術。
許凱程(工研院)把 X 光判讀拆解成三層任務鏈後,正確率從 5–6 成拉高到 9 成以上;吳威翰的 multi-agent 行銷 pipeline、李慕約現場 demo 的電商下單 agent 都已商用化。但翁浩正指出,紅隊任務要求的「精準一擊必殺」與 zero-day 挖掘,AI 仍做不到,仍需要人類創造力補位。
翁浩正評估 AI 對紅隊來說還只是「很棒的 Copilot」,隔天沈宜婷卻現場 demo 用去除安全限制的 Ollama 模型自動化打穿 Linux 拿到 root 密碼;楊政霖則從防禦端展示惡意指令解讀從 40 分鐘縮到 3 秒,同時揭露自架 RAG 框架本身也是新的攻擊面(51 種框架組合中 17 種有漏洞)。
張文鈿提出 LLM 應用開發五級成熟度模型,蔡宗翰主張評估 prompt 必須由領域專家撰寫並提出五步驟開發流程,許朝詠則從中鋼經驗歸納「AI 落地三層次」。2024 年,調 prompt 從憑感覺變成有分級標準、可治理稽核的工程流程。
十句貫穿兩天議程、值得記住的講者發言。
台灣要建構有防禦力的主權 AI。
模型是一時的,資料才是永久的。
連 wiki 的 traditional Chinese 版本都算很小,真的是很小。
這是人類史上沒有這麼危險過的時刻。
只是要輸出繁體中文,其實沒有什麼技術含量。
任務資料評估是 LLM 發展的關鍵。
設備買了卻不知道怎麼用,只是為了消化預算做業績。
AI 對防禦方的幫助其實比較多。
我是來踢館的法律人。
AI 比核子彈在地緣政治上更具威力。
同一場年會裡,講者之間並未調和的四場真實分歧。
兩天上台的 71 位人物,可用姓名、單位或場次搜尋。
| 講者 | 單位 | 職稱 | 類型 | 場次 |
|---|---|---|---|---|
| 蕭美琴 | 中華民國 | 副總統 | 政府與公部門 | Day1 09:30–09:50 — Welcome & Opening Remarks |
| 黃志芳 | 外貿協會 | 董事長 | 政府與公部門 | Day1 10:50–11:40 — AI and the Changes of a Century |
| 張朝亮 | 國網中心 | 主任 | 政府與公部門 | Day1 14:30–15:00 — High-Performance Computing Infrastructures for Wide Adoption of AI in Taiwan |
| 張文熙 | 財政部財資中心 | 主任 | 政府與公部門 | Day2 13:30–14:00 — 財政部運用 AI 進行業務轉型的經驗分享 |
| 廖弘源 | 晶創計畫 | 副執行長 | 政府與公部門 | Day2 14:00–14:30 — The Taiwan CbI Program(晶片驅動台灣產業創新方案) |
| 覺文郁 | 臺大 | 終身特聘教授 | 學研機構 | Day1 16:00–16:30 — The Deepening of AI Applications and Talent Cultivation in Manufacturing |
| 周哲維 | 逢甲大學 | 助理教授(R1 軌道主持人) | 學研機構 | Day1 16:30–17:00 — Artificial Intelligence in Manufacturing for CNC machine、兩天全程擔任 R1 軌道主持人 |
| 黃瀚萱 | 中研院 | 副研究員 | 學研機構 | Day1 14:30–15:00 — The Development of Multimodal TAIDE Models |
| 查士朝 | 台科大 | 教授 | 學研機構 | Day1 16:30–17:00 — AI and Security Governance |
| 吳俊興 | 高雄大學 資工系 | 副教授 | 學研機構 | Day1 13:30–14:00(R4)— 「用 Kuwa 打造自己的 AI 智囊團」工作坊 |
| 李育杰 | 中研院資創中心 | 研究員 | 學研機構 | Day2 09:30–11:15 — Sovereign AI(專題講者),緊接著 11:15–12:00 於 AI 治理座談再任與談人,同一時段內雙重角色 |
| 鄭振牟 | 長庚大學 | 教授 | 學研機構 | Day2 09:30–11:15 — Secure AI Inference Techniques: A Tutorial |
| 許永真 | 長庚大學 | 院長 | 學研機構 | Day2 11:15–12:00 — AI 治理座談(與談人) |
| 蔡宗翰 | 中研院人社中心 | 研究員 | 學研機構 | Day2 13:00–13:30 — Task Design, Dataset Creation, and Evaluation: Keys to LLM Deployment and Taiwan's AI Foundry |
| 游家牧 | 陽明交大 | 副教授 | 學研機構 | Day2 13:00–15:00(R4)— 座談「好資料哪裡來?」:資料與隱私的平衡 |
| 卞中佩 | 政大 | 助理教授 | 學研機構 | Day2 13:00–15:00(R4)— 座談「好資料哪裡來?」:社科資料運用 |
| 邱文聰 | 中研院法律所 | 研究員 | 學研機構 | Day2 13:00–15:00(R4)— 座談「好資料哪裡來?」:資料治理法草案 |
| 張嘉惠 | 中央大學 | 教授(R0 軌道主持人) | 學研機構 | Day1+Day2 R0 — 主持人(未另掛講題),橫跨 Day1 上午開幕與 Keynote、Day1 下午智慧轉型、Day2 下午智慧轉型與紀念講座三個場次全程主持 |
| 高宏宇 | 清華大學 | 資訊學院教授(R2 軌道主持人) | 學研機構 | Day1 R2 — 主持人(未另掛講題) |
| 莊坤達 | 成功大學 | 副教授(R3 軌道主持人,Day1) | 學研機構 | Day1 R3 — 主持人(未另掛講題) |
| 童子賢 | 和碩聯合科技 | 董事長 | 半導體與硬體 | Day1 10:00–10:50 — AI-Driven Revolution: Opportunities for Taiwan's Industries |
| 劉思泰 | Qualcomm | 副總裁暨台灣、東南亞與紐澳區總裁 | 半導體與硬體 | Day1 13:00–13:30 — Intelligent Computing X Edge AI in Driving Innovation in the AI Era |
| 葉家順 | 聯發科技 | 協理 | 半導體與硬體 | Day1 16:30–17:00 — Boost Productivity & Innovation – MediaTek DaVinci GenAI Platform |
| 高士方 | MSI 微星科技 | 研發資深協理 | 半導體與硬體 | Day1 15:30–16:00 — AI ERA of Computing – Empowering the future with AI |
| 王宗業 | Intel | Network and Edge Group, Platform Software Architect | 半導體與硬體 | Day1 13:00–13:30 — Open platform for enterprise ready AI |
| 徐國翰 | 英業達 AI 晶片設計處 | 資深處長 | 半導體與硬體 | Day1 13:30–14:00 — Water-Cooling-free: ultra low energy consumption NPU IP for LLM |
| 徐達勇 | 安謀國際 Arm | 應用工程總監 | 半導體與硬體 | Day1 14:30–15:00 — Building the AI Compute Platform of the Future |
| 張歐佑豪 | AMD 台灣區商用業務處 | 資深技術顧問 | 半導體與硬體 | Day1 15:30–16:00 — From Silicon Design to Software Stack: AMD AI Strategy |
| 楊子翔 | 廣達電腦 | 資深處長 | 半導體與硬體 | Day1 16:00–16:30 — From no-code, low-code to full-code AI model DevOps: QOCA aim |
| 林緯 | 群聯電子 | 技術長 | 半導體與硬體 | Day1 16:30–17:00 — Breaking Barriers in Generative AI Deployment: Phison aiDAPTIV |
| 陳宜昌 | 聯發創新基地 | Senior Technology Manager | 半導體與硬體 | Day1 13:00–13:30 — Breeze 2.0: An Open-source Traditional Chinese LLM |
| 黃彥翔 | Cadence | 應用工程總監 | 半導體與硬體 | Day1 14:00–14:30 — Intelligent System Design for Optimized IC Design |
| 陳維超 | 英業達 | 數位長暨資深副總經理 | 半導體與硬體 | Day2 15:30–16:20 — Delivering Trust in the AI Era(陳昇瑋紀念講座) |
| 王景弘 | 中華電信研究院 | 副院長 | 電信與網路服務 | Day1 14:00–14:30 — The strategy and development of AI 2.0 in the ICT Industry |
| 胡德民 | 遠傳電信 | 資訊長暨執行副總 | 電信與網路服務 | Day1 14:30–15:00 — AI-Driven Future: FET's Digital Transformation Journey |
| 蔡祈岩 | 台灣大哥大 | 資訊長 | 電信與網路服務 | Day1 14:00–14:30 — AI, the Age of It: A Great Opportunity for Taiwanese Businesses |
| 吳振和 | cacaFly Cloud AI+ Center | VP | 電信與網路服務 | Day1 13:30–14:00 — Implementing RAG in Multimodal Architectures for Image Generation |
| 官順暉 | 科科科技 KKTech | Chief Scientist | 電信與網路服務 | Day2 13:30–14:00 — Orchestrating the Future: AI Innovations in Music Streaming |
| 栗永徽 | 鴻海研究院 AI 研究所 | 所長 | 金融與傳統產業 | Day1 13:30–14:00 — From Prediction to Simulation: HHRI's Breakthroughs in Autonomous Driving |
| 許朝詠 | 中鋼 | 研究員 | 金融與傳統產業 | Day1 15:30–16:00 — The Journey of Digital Transformation in the Steel Industry Driven by AI |
| 黃仕鎮 | 玉山銀行 | 資料科學總監 | 金融與傳統產業 | Day1 13:00–13:30 — Generative AI applications in E.SUN Bank |
| 溫紹群 | Deloitte 勤業眾信 | Technology & Transformation | 金融與傳統產業 | Day1 14:00–14:30 — Unleashing AI Empowerment: a Game-Changing Ecosystem of Shared Innovation |
| 林茂昌 | 新漢智能系統 | 董事長 | 金融與傳統產業 | Day1 16:00–16:30 — AI for All: Evolving from AI Supply Chain to Value Chain |
| 楊政霖 | CyCraft 奧義智慧 | Director of Data Science | 資安 | Day1 13:30–14:00 — LLMs in Cybersecurity Products: The Good, the Bad, and the Ugly |
| 邱銘彰 | 台灣駭客協會 | 顧問 | 資安 | Day1 15:30–16:00 — The Secrets of AI: Unveiling the Keys to Success in AI Projects |
| 翁浩正 | DEVCORE 戴夫寇爾 | CEO | 資安 | Day1 16:00–16:30 — The Evolution of Cybersecurity Attacks in the GenAI Era |
| 沈宜婷 | 中華資安國際 | SOC/Security Engineer | 資安 | Day2 13:00–13:30(Flash Talk)— Insecure llama?: When LLM becomes a weapon for hackers |
| 簡立峰 | Appier | 獨立董事 | 醫療與新創 | Day2 11:15–12:00 — AI 治理座談(與談人) |
| 楊立偉 | 意藍資訊 | 董事總經理 | 醫療與新創 | Day2 14:30–15:00 — AI is revolutionizing knowledge management! |
| 陳敦和 | 資拓宏宇 | 產品顧問 | 醫療與新創 | Day2 13:00–13:30 — Taxonomy of LLM Development and Applications in Industries |
| 李昆謀 | 91APP | CPO | 醫療與新創 | Day2 14:00–14:30 — Retail AI: from recommendation to agent |
| 林縣城 | 叡揚資訊 創新研究中心 | CTO | 醫療與新創 | Day2 14:30–15:00 — Enterprise AI Application Practices – Expect the Unexpected! |
| 許凱程 | 工研院 | 醫療長 | 醫療與新創 | Day2 13:00–13:30 — Agentic LLM and Smart Healthcare |
| 賴來勳 | 臺中榮民總醫院 | 資訊室主任 | 醫療與新創 | Day2 13:30–14:00 — From Digital Transformation to Smart Hospital |
| 康仕仲 | Jubo 智齡科技 | CEO | 醫療與新創 | Day2 14:00–14:30 — How can AI help nurses? |
| 邱泊寰 | CAMEO | 設計師 | 醫療與新創 | Day2 14:30–15:00 — 政府導入 AI 的挑戰與意外的口碑成功 |
| 吳威翰 | Accucrazy 肖準 | Founder & CEO | 醫療與新創 | Day2 13:00–13:30(Flash Talk)— Craft your Growth Strategy with a Fully Fine-tuned AI Brain |
| 李明達 | MYAI168.COM | Founder | 醫療與新創 | Day2 13:00–13:30(Flash Talk)— The Application of the Latest AI Algorithms in Temple Field |
| 林育弘 | AI System Plan Department(所屬公司議程未載明) | Director | 醫療與新創 | Day2 13:30–14:00(Flash Talk)— Multimodal AI Empowering Smart Manufacturing Upgradation |
| 高季安 | 先知科技 | 總經理 | 醫療與新創 | Day2 14:00–14:30(Flash Talk)— AI-Driven Manufacturing Innovation: Visual AI Platforms and Generative Image Technology |
| 張文鈿 | 愛好資訊 | Founder | 醫療與新創 | Day2 14:00–14:30(Flash Talk)— Eval-Driven-Development |
| 胡翔崴 | 工研院 | Engineer | 醫療與新創 | Day2 14:00–14:30(Flash Talk)— Advancing Medical Innovation with Multimodal Edge Computing |
| 呂宏益 | Harbor Technology Solutions | CEO | 醫療與新創 | Day2 14:30–15:00(Flash Talk)— Sensing the Future and Industrial AI Applications |
| 謝宗震 | 詠鋝智能 Chimes AI(官方頁面原文如此;正確全名為「詠鋐智能」〔鋐,非鋝〕) | CEO | 醫療與新創 | Day2 14:30–15:00(Flash Talk)— Decarbonizing Energy-intensive Industry: How AI Solutions Accelerate ESG Goals |
| 魏啓林 | 台灣人工智慧學校基金會 | 副董事長 | 社群與NPO | Day1 09:30–09:50 — Welcome & Opening Remarks |
| 蔡明順 | 台灣人工智慧學校 | 校務長 | 社群與NPO | Day1 11:40–12:00 — Intelligent Leap: The Transformative Journey of Taiwan AI Academy |
| 侯宜秀 | 台灣人工智慧學校基金會 | 秘書長(R4 軌道主持人) | 社群與NPO | Day2 09:30–12:00 — 以人為本的 AI 治理-目標、現實與想像 2024(專題講者),隨後主持 AI 治理座談(與談:簡立峰、許永真、李育杰),並於兩天全程擔任 R4 軌道主持人 |
| 郭秉宸 | 台灣人工智慧學校 | 產學長 | 社群與NPO | Day2 16:20–16:30 — 用 AI 強大台灣、均衡台灣:讓人才成為擴展與加深影響力的引擎 |
| 李慕約 | Generative AI Conference | 策展人 | 社群與NPO | Day1 15:30–16:00(R4)— 「用 AI 寫程式!工作流程自動化!」工作坊、Day2(Flash Talk)— How non-engineers can use AI to write code and leave work five minutes earlier(講題內容相近、講者相同,橫跨兩天兩種場次形式) |
| 王向榮 | 歐噴有限公司 | 創辦人 | 社群與NPO | Day2 13:00–15:00(R4)— 座談「好資料哪裡來?」:繁體中文 AI 開源實踐計劃 |
| 張剛羚 | TAIA | Executive Director & CSO(R3 軌道主持人,Day2) | 社群與NPO | Day2 R3 — 主持人(未另掛講題) |