Day 1 · R0 智慧轉型(下午場)

高通、鴻海研究院、中華電信、國網中心、中鋼、聯發科等講者,分享從 Edge AI、自駕模擬、算力基礎建設到生成式 AI 平台推動智慧轉型的策略。

Day 1・2024/09/27(五)國際會議廳 — 智慧轉型13:00–17:00張嘉惠 教授(中央大學)

本場速覽

講者講題一句話重點
劉思泰(Qualcomm 副總裁暨台灣、東南亞與紐澳區總裁)Intelligent Computing X Edge AI in Driving Innovation in the AI Era主張唯有把運算/推論下放終端的「混合式 AI」才能真正發揮 AI 潛能,並以 AI Hub 等工具降低開發門檻
栗永徽(鴻海研究院 AI 研究所 所長)From Prediction to Simulation: HHRI's Breakthroughs in Autonomous DrivingQCNet/QCNeXt/BehaviorGPT 三代自研模型接連在 CVPR Argoverse、Waymo Sim Agents 挑戰賽奪世界冠軍
王景弘(中華電信研究院 副院長)The strategy and development of AI 2.0 in the ICT Industry以「航向 AI 2.0」為主軸,展示智慧客服、AI 電話防詐、智慧司法等應用,並強調這波 AI 技術已成熟到可直接產生業務價值
張朝亮(國網中心 主任)High-Performance Computing Infrastructures for Wide Adoption of AI in Taiwan完整盤點台灣算力建置(台灣杉系列、精粹主機)、AI 雲端服務與 AI 主權戰略
許朝詠(中鋼 研究員)The Journey of Digital Transformation in the Steel Industry Driven by AI從「單一技術落地」轉向「以效益指標驅動」的數位轉型方法論:人機協作/數位雙生/混合雲/生成式AI
葉家順(聯發科技 協理)Boost Productivity & Innovation – MediaTek DaVinci GenAI Platform揭露「達哥」(DaVinci) 企業級生成式AI助理平台的安全分層架構、模型/plug-in生態,以及邁向 multi-agent 的下一步

演講

顯示 6 / 6 場

1Intelligent Computing X Edge AI in Driving Innovation in the AI Era劉思泰(Qualcomm 副總裁暨台灣、東南亞與紐澳區總裁)

高通主張 AI 潛能只有把運算與推論下放到終端(Hybrid AI)才能真正發揮,並靠 AI Hub 等工具降低開發者導入門檻。

重點整理

  • 核心主張:真正發揮 AI 潛能必須把運算/推論下放到終端(On-Device/Edge),形成「終端 → Edge AI Server → 雲端」三層的「混合式 AI」(Hybrid AI)架構;若全部運算送上雲端,耗電、延遲(latency)與隱私成本會非常龐大。
  • 引用估算:若照目前 AI 發展趨勢,到 2030 年 AI 將耗用全球約 3.5% 電力,換算約等於上海市(人口 1,800 萬)30 年的用電量。
  • 引用產業估計:Generative AI 帶來的經濟效益估計介於 2.6 兆~4.4 兆美元(約當英國 2021 年 GDP);另有三家不同機構估計範圍為 2,070 億~7.9 兆美元不等。
  • 說明終端算力需求:要輸出「可接受」的生成式 AI 結果,手機約需 7–10B 參數、PC 約需 13–20B、車用約需 20–60B、IP Camera 約 7–10B。
  • 說明高通的異質運算(heterogeneous computing)架構:CPU + GPU + NPU(Neural Processing Unit)+ Sensing Hub 共同分工,以滿足自駕等場景所需的極低延遲即時決策。
  • Snapdragon 8 Gen 3 案例:算力超越 2000 年的超級電腦、耗電量低於一顆 LED,image processing 效能對比雲端方案可達 30 倍以上。
  • 揭露給開發者/中小企業的三個工具:①Qualcomm AI Hub(雲端服務,內建 100+ 個已量化最佳化模型,可先在虛擬環境模擬驗證再部署到實體硬體);②AI 模型優化工具(讓自製模型更精簡、更省算力後再上機);③Qualcomm AI Stack(支援多種 OS、內建預設函式庫)。
  • 案例:加拿大 Brampton Cricket League 用 AI Hub 開發板球裁判複判(DRS)輔助系統,開發時間從 60 天縮短到 1 天,硬體 benchmark 測試時間從數小時縮短到 5 分鐘。
  • 車用場景展望:主張車輛走向 Software Defined Vehicle(SDV),車內體驗會像「PC on wheels」;並以 contextual AI 舉例——車輛能主動解讀儀表板警示燈意義,或依定位資訊主動提供建議(例如開過台灣總統府時主動詢問要不要拍照)。
  • 描繪 LLM 裝置應用的演化路徑:單純聊天型 LLM → 多模態輸入(語音/影像)→ 具環境感知的 contextual AI → 最終走向具行動能力的機器人型態。

提到的技術・產品・數據

Snapdragon 8 Gen 3
高通旗艦行動運算平台,image processing 效能對比雲端可達 30 倍
Qualcomm AI Hub
雲端模型市集,內建 100+ 個 optimized/quantized 模型供開發者部署測試
Software Defined Vehicle(SDV)
車輛以軟體定義使用者體驗與持續更新的概念
5G connectivity
講者強調台灣提早於五、六年前部署 5G,是發展終端 AI 應用的基礎優勢

值得記下的觀點

「你必須要把 AI 這個運算以及功能拿到最前端⋯終端就是最前端的設備,來接受這些東西。」
「大型的模型是越來越變小型,而且非常的 capable。」

Q&A

  • 無 Q&A(主持人詢問現場是否有問題,但因單場演講僅 30 分鐘,時間不足而略過,直接轉場介紹下一位講者)

查證註記

  • 講者自我介紹的英文名字聽起來近似「STLU」,可能是口語或譯名上的落差,未能查證具體全名,標記(未能查證)。
  • 經 WebSearch 交叉核對亦與多篇報導相符:Qualcomm 副總裁暨台灣、東南亞與紐澳區總裁 劉思泰,曾任宏碁智慧產品事業總裁,加入宏碁前在摩托羅拉任職逾 18 年,與他自述「之前的話可能也在像Acer或者是Motorola都有很豐富的經驗」相符。來源:工商時報電子工程專輯
2From Prediction to Simulation: HHRI's Breakthroughs in Autonomous Driving栗永徽(鴻海研究院 AI 研究所 所長)

鴻海研究院以 Transformer 架構重新定義自駕車軌跡預測與模擬,QCNet/QCNeXt/BehaviorGPT 三代模型接力奪下多項世界冠軍。

重點整理

  • 講者背景:原任教於國立中央大學資訊工程學系,從事 AI 相關研究;2021 年鴻海(劉揚偉)董事長上任後推動集團從製造業轉型為「以科技為本」的產業,邀請他籌組鴻海研究院並擔任人工智慧研究所所長。
  • 鴻海集團轉型策略為「三加三」:三大新事業方向(電動車、數位健康、機器人,皆為高年複合成長率 CAGR 產業)+三項基礎技術(AI、半導體、新世代通訊)。
  • 人工智慧研究所團隊規模僅十餘人,自 2021 年至今已發表 57 篇論文、91 項專利(含領證與申請中)。
  • 拆解自駕車五大技術問題:感知(perception,辨識移動車輛/行人/腳踏車及道路標線/紅綠燈/人行道等靜態物件)、預測(prediction,預測周遭車輛下一步動作)、規劃(planning,規劃自身應對動作);另外兩個較不顯眼但同樣重要的問題是「降低訓練資料收集成本」與「建立安全的模擬訓練環境」。
  • QCNet(CVPR 2023):把軌跡預測問題重新表述為類似 NLP「next-token prediction」的任務——給定起始位置、速度與方向,用 Transformer 逐步預測下一個 0.5 秒的位置與速度;架構包含場景編碼(用 Local Spacetime Coordinate System,提高資料重用效率)+三層 Cross/Self-Attention(時間、周遭車輛、地圖)+最後一層微調 Attention。在 Argoverse 1、Argoverse 2 單一智能體軌跡預測挑戰賽奪世界第一,並在該排行榜蟬聯冠軍逾一年四個月才被超越(對手包含 Uber、商湯科技、北京大學、Waymo 等),論文發表於 CVPR 2023,並將轉投稿 PAMI 期刊。
  • QCNeXt(CVPR 2024 Argoverse 2 Multi-Agent 挑戰賽):從「逐一預測單一智能體」擴展為「同時聯合預測多個交通參與者彼此互動下的軌跡」,難度更高,同樣奪得世界冠軍。
  • BehaviorGPT(Waymo Open Sim Agents Challenge,CVPR 2024):目標是建立「模擬環境」取代真實路測,讓自駕模型能在模擬中訓練,大幅降低訓練成本;沿用 Transformer 架構(agent/map 資料 tokenization → 三重 Cross/Self-Attention:時序、agent-to-map、agent-to-agent → 解碼出位置/速度/角度);提出「next patch prediction」訓練範式(一次預測一整段路徑「patch」,而非逐步預測單一時間點),可提升編碼效率與解碼準確度。該模型奪得挑戰賽世界冠軍,且模型參數量僅 3M(同場競爭對手中最小),呼應「邊緣端推論效率」的重要性;論文已被 NeurIPS 2024 接受,預計 11–12 月發表。
  • 應用展望:BehaviorGPT 建立的模擬場景可用於自駕模組研發,也可用於交通號誌控制、車道封閉/調度等交通規劃與管理演算法開發。
  • 近兩年戰績總表:2024 CVPR Waymo Sim Agent Challenge 第一名、Waymo Motion Prediction Challenge 第二名、Argoverse 1/2 挑戰賽第一名。

提到的技術・產品・數據

QCNet/QCNeXt
鴻海研究院自研軌跡預測 Transformer 模型,CVPR Argoverse 挑戰賽冠軍
BehaviorGPT
鴻海研究院自研交通模擬(Sim Agents)Transformer 模型,僅 3M 參數,Waymo Sim Agent Challenge 冠軍
Argoverse 1/2
自駕車軌跡預測公開競賽與資料集,Uber、商湯科技、北京大學、Waymo 等隊伍同場競爭
Waymo Open Sim Agents Challenge
Google 旗下 Waymo 發起的自駕模擬挑戰賽

值得記下的觀點

「我們把軌跡預測問題轉換成自然語言處理的問題⋯給它一個起始的位置、還有速度跟方向,讓 Transformer 可以很好地去預測下一秒或下一個 0.5 秒的位置。」
「AI 就是強強連鎖,會越來越強越來越強,鴻海研究院拿到這把鑰匙了。」

Q&A

  • 無 Q&A(主持人於轉場時分享個人觀察與感想,未進行正式提問)

查證註記

  • 栗永徽(英文名 Yung-Hui Li):查證其現任鴻海研究院人工智慧研究所所長、原任教於國立中央大學資訊工程學系、美國卡內基美隆大學電腦科學博士,與講者自述經歷(曾任教中央大學、2021 年獲邀籌組鴻海研究院)完全吻合。來源:鴻海研究院官網TEDxTaichung 講者介紹
  • QCNet/QCNeXt 在 CVPR Argoverse 挑戰賽奪冠、BehaviorGPT 論文投稿 NeurIPS 等說法,經 WebSearch 查證屬實;惟公開論文/GitHub 頁面上的第一作者所屬機構是否逐一列名「鴻海研究院」未能完整核對,標記(部分未能查證)。來源:QCNeXt 論文QCNet GitHub
3The strategy and development of AI 2.0 in the ICT Industry王景弘(中華電信研究院 副院長)

中華電信研究院以「航向 AI 2.0」為主軸,展示智慧客服、AI 電話防詐、智慧司法等應用案例,並強調這波 AI 技術已經成熟到可以直接產生業務價值。

重點整理

  • 演講主軸「航向 AI 2.0」:主張現在的 AI 與講者「30 年前在大學時看到的 AI」完全不同,關鍵差異在於這一波技術已經成熟到可以「直接拿來運用、產生價值」,不再只是停留在實驗室階段的研究。
  • 推動架構分兩軌,「+AI」與「AI+」:「+AI」偏向既有業務加上 AI 做效率提升(由業務需求推動新技術),「AI+」則是以 AI 為核心發展全新的產品與內部價值。
  • 展示了多領域 AI 應用,其中兩項特別令人印象深刻:AI 電話防詐(透過語音分析預防詐騙電話)、智慧司法系統(回答法律問題時能精準引用相關條文)。
  • 案例:智慧客服 KM Copilot——基於企業內部知識庫,讓使用者以自然語言提問;導入前客戶等候時間長,導入後 5 秒內即可取得答案,等候時間至少減少 10%。
  • 案例:醫療 AI 助理——應用情境涵蓋病人門診前、中、後,功能包括 AI 音訊轉文字(可再轉換成多國語言)與 LLM 診斷紀錄摘要。
  • 技術成熟度直接帶動算力需求大增:以國科會「自然科學及永續研究發展處」(現場稱作「自然處」)處長轉達學界需求為例——過去用 PC cluster 即可,現在則想要用 GPU,顯示算力需求已出現質變。
  • 以此算力缺口為引,銜接歡迎下一位講者——國網中心主任張朝亮上台,也呼應了接下來張朝亮從算力基礎建設角度切入的演講。

提到的技術・產品・數據

KM Copilot
中華電信智慧客服系統,基於企業知識庫的自然語言問答助理
AI 電話防詐
透過語音分析辨識並預防詐騙電話的應用
智慧司法系統
回答法律問題時可精準引用相關條文的 AI 應用
醫療 AI 助理
涵蓋門診前中後、結合語音轉文字與 LLM 診斷摘要的應用

值得記下的觀點

「現在的 AI 跟比方說我們 30 年前我在大學的時候看到的 AI 是很不一樣的,主要的原因就是⋯這些技術真的是很成熟了,它是已經是在價值上你拿下來就可以運用的一個東西。」

Q&A

  • 無 Q&A

查證註記

  • 王景弘現任/曾任中華電信研究院副院長,並歷任中華電信資訊處、資通安全處副總經理、企客分公司副總經理等職務,經 WebSearch 查證與公開資料方向一致,惟未找到官方新聞稿可逐字核對其「副院長」現職與本場講題的第一手資訊,標記(部分未能查證)。
  • 「+AI」「AI+」的定義為根據字面的合理詮釋,講者未特別展開定義,標記為詮釋。
  • 中華電信於 2023 年 8 月成立「AI 2.0 企業策略委員會」(時任董事長郭水義),公開論述聚焦三個面向:中華電信自己要具備什麼 AI 能力、如何協助客戶用 AI、如何從「AI 技術賦能既有營運模式」進一步走向「AI 創新商業模式」,與本場「航向 AI 2.0」主軸互相呼應,講題應是在闡述這個委員會的策略框架。來源:中華電信研究院官網中華電信研究院|人工智慧研發方向中華電:推動 AI 2.0 策略布局 打造創新雨林生態系
4High-Performance Computing Infrastructures for Wide Adoption of AI in Taiwan張朝亮(國網中心 主任)

國網中心主任張朝亮從 Gartner Hype Cycle 切入,完整盤點台灣算力建置(台灣杉系列、精粹主機)、雲端服務與 AI 主權戰略。

重點整理

  • 引用 Gartner Hype Cycle 分析:Generative AI、LLM 已跨過炒作高峰、進入務實發展期;但 RAG(尤其 Graph RAG)、Multimodal、AI TRiSM(AI Trust, Risk & Security Management)等技術仍在發展路上,是未來幾年的重點。
  • 把 Gen AI 發展拆成四個面向:①模型開發(即使引進開源模型,也要加入自有資料做客製);②AI engineering tools(如 RAG 需以工程化方式落地);③application use case(用來說服經營層投資的關鍵);④enablement techniques and infrastructure——本場演講聚焦最後一項,即「算力」與「specialized AI chip」。
  • 觀察大廠自研 AI 晶片趨勢:Meta、Google 等投入自研 ASIC,一是不想讓 NVIDIA 主導整個生態系,二是通用型 AI 晶片無法滿足其用電效率與訓練時間要求;但專用晶片也有「技術迭代太快、設計完成即可能過時」的先天風險。
  • 提出「AI + Simulation」概念(呼應前一位鴻海講者):純 AI 模型無法預測物理環境(如廠房對自然環境、生產條件的反應),須與模擬結合,並引用黃仁勳 NVIDIA Omniverse 打造虛擬世界的演講作為案例。
  • 算力建置現況:台灣杉二號(2019 年上線)、台灣杉三號自 2022 年 AI 興起後承擔重要算力角色;為推動 TAIDE 模型另採購 72 片 H100(約 3.8 Petaflops);並以 GPT-3 規模模型換算算力概念:約 1,680 張 H100 可在 9.8 天內訓練完 175B 參數模型。
  • 揭露今明兩年擴建計畫:今年建置 16 Petaflops 機器(部分 11 月上線、部分明年初上線)、明年再建約 100 Petaflops 等級「精粹主機」(隸屬行政院支持之「晶創計畫」);並規劃導入量子運算資源,以及在南部(大南方沙崙)建置新一代 AI 超級電腦中心。
  • 世界超級電腦 Top500 排名:台灣目前排名第 17(含台灣杉一號及新建氣象預測用電腦的總算力)。
  • 強調「雲端服務」與硬體同樣重要:國網中心正推動以 Container 方式提供 AI 雲端服務入口,並依資料機敏程度分「藍線/紅線」(一般資料/機敏資料)分流不同保護層級。
  • 強調 AI Sovereignty(AI 主權):主張涉及國家文化元素、機敏資料的 AI 開發不應完全依賴國際雲端服務,需要自主可信賴的雲端環境;相關能力也延伸應用到國土治理、國防科技(如太空中心衛星資料)與生醫領域的資料保護。
  • TAIDE 模型近況:最初由中研院李育杰教授帶領學界團隊開發(第二年),現由國網中心接手持續維運更新;資料收集在盡量遵守著作權的前提下有其困難;目前優先服務政府部門的數位轉型需求。
  • 揭露 10 月中旬即將推出的 AI 開發者三種服務模式:①一站式(自帶模型上國網平台,從問問題到拿到 inference 結果全包);②API(開發者自行呼叫國網 HPC 資源做推論,彈性最大);③輕量式前端界面(無前端開發能力者可直接使用)。
  • 硬體規劃:現有 Grace Hopper、H100/A100/V100,另購入 L40S 做推論,並正在採購 AMD MI300 與 Intel Gaudi 3。

提到的技術・產品・數據

台灣杉二號/台灣杉三號
國網中心既有超級電腦,台灣杉二號 2019 年上線,現承擔部分 AI 算力任務
精粹主機(今年 16 PF、明年約 100 PF)
國網中心新建 AI 超級電腦,隸屬行政院「晶創計畫」
TAIDE
國網中心(原中研院李育杰團隊)主導的繁體中文主權大型語言模型
NVIDIA H100/A100/V100/Grace Hopper、L40S、AMD MI300、Intel Gaudi 3
國網中心現有/規劃採購的 AI 運算硬體
AI TRiSM
Gartner 提出的 AI 信任、風險與安全管理框架
大南方(沙崙)AI 超級電腦
政府規劃於南部新建的 AI 運算中心

值得記下的觀點

「If you're not ready for AI, you need to be AI ready.」
「不是每個人都是⋯大家搶著買的時候一定有它的道理。」

Q&A

  • 無 Q&A

查證註記

  • 張朝亮:WebSearch 查證其現職與經歷屬實:現任國家高速網路與計算中心主任,美國賓州州立大學機械工程博士,曾任 NASA 蘭利研究中心資深研究員,2022 年 4 月接任國網中心主任。來源:自由時報國網中心官網
  • 「晶創計畫」(晶片驅動臺灣產業創新方案)十年規劃 3000 億元、114 年度編列 40 億元交由國網中心建置算力。
5The Journey of Digital Transformation in the Steel Industry Driven by AI許朝詠(中鋼 研究員)

中鋼從「單一技術落地」轉向「以效益指標驅動」的數位轉型方法論,靠人機協作、數位雙生、混合雲、生成式AI四支柱因應缺工問題。

重點整理

  • 講者背景:曾在中研院任職 13 年,2014 年轉往中鋼迄今,恰好與 AI 技術蓬勃發展的十年重疊;提及廖弘源(中研院/晶創計畫副執行長,同時也是隔天議程講者)為其在影像技術領域的重要合作對象。
  • 中鋼自 2014 年起於產線與銷售端導入多項 AI 技術:以「無人天車」為例,是中鋼除本業鋼鐵外銷售第三好的產品(前兩名分別是月餅與水餃),已外銷十幾部至中國大陸。
  • 過去問題盤點:早期 AI 專案多以「單一技術/單一產線」為目標(例如「做出無人天車」本身即是目標),缺乏可量化的最終效益指標,導致 AI 雖已落地、卻難以呈現在公司整體營運績效上。
  • 2023 年起轉向「數位轉型」目標,成立數位轉型推動小組(前身為「智能產銷委員會」),新納入資訊與行政部門——因為打通資料流、以及讓員工習慣生成式 AI 的工作模式,都是數位轉型的關鍵。
  • 委託工研院盤點世界前七大鋼廠的數位轉型方向,歸納出四大主軸:提升生產效率、智慧化營運(延續既有智能產銷委員會工作)、低碳製造與新材料開發(已有公司 ESG 小組負責,故技術小組不重複投入);技術小組因此聚焦在「提升生產效率」與「智慧化營運」兩項。
  • 點出核心挑戰是缺工:預期 2028 年台灣人口紅利消失,勞動人口將短少 200 萬人;中鋼近年也開始與科技業(如台積電)搶人才,南部招工日趨困難,並連帶衍生「經驗傳承」問題(資深員工經驗難以交接給新進員工)。
  • 因應「加速經驗傳承」與「提升工作效率」兩大目標,導入四項技術:人機協作、數位雙生、混合雲、生成式 AI。
  • 案例 1(人機協作—小鋼胚天車):純自動化天車因 AI 僅能操作「兩軸同動」(人可三軸同動),效率降低約 30%;改採人機協作模式,類比 Google 無人計程車 vs. 百度「蘿蔔快跑」(人機協作、遠端接管)路線之別,後者能更快追上應用成熟度。
  • AI 落地環境設計三層次(講者提出的重要方法論):①純用 AI 技術:因環境不可控常失準(例:攝影機直接數鋼胚調運數量,因背景全是鋼胚而無法辨識);②限定環境下用 AI:加裝雷射線做前景/背景分離(三角雷射測距法)有改善,但仍受環境變異(雷射線與攝影機角度過小)影響;③精確設計環境條件:優化雷射線安裝位置、加電磁吸盤偵測並排除範圍外雷射線,最終正確率達 99% 以上。
  • 案例 2(遠端協作—鋼卷天車):在天車儲區架設 5G 基站,將控制訊號拉到地面控制室,操作員在室內用與天車上相同的控制台遠端操作;配合 PLC 調整,將「夾取/放下」(人做較佳,需三軸同動)與「人員偵測、防撞、鋼卷序號辨識」(AI 做較佳,靠電腦視覺)分工,使單一天車操作工時降至原本 20%,最終達成「一人操作多台天車」。
  • 案例 3(數位雙生—天車手訓練 + 光達虛擬倉儲):①把倉庫實景建成含虛擬攝影機的虛擬倉庫,讓天車手在虛擬環境訓練操作、畫面與真實天車一致,加速訓練;②扁鋼胚天車案例:光達交期一度長達 6 個月至 1 年,於是先用 Point Cloud 建立虛擬儲區(鋼胚簡化為 5–6 面幾何體)並在硬體到貨前就完成物件偵測系統開發,硬體到位後僅需微調角度即可上線。
  • 案例 4(數位雙生—高爐布料模擬):導入 NVIDIA Omniverse 建立高爐布料模擬,讓原本「看不到內部狀況」的高爐布料情形可視化,用於即時比對與模擬判斷。
  • 生成式 AI 案例:①用自然語言查詢 SQL Server 資料庫(免寫 SQL 語法),解決盤燒設備連接線長度等查詢需求;②維護指引系統「工程小管家」:將資深員工留下的維護文件建成問答系統,供新進員工學習設備維護經驗。
  • 講者坦言:企業內部自建生成式 AI 應用很難贏過 OpenAI 等原生大廠的迭代速度,因此中鋼的定位是「數位賦能」——把員工不具備的能力/知識直接嵌入系統、讓大量員工使用後自行找到貼合工作場域的應用,而非追求自研模型能力超車。

提到的技術・產品・數據

NVIDIA Omniverse
中鋼用於高爐布料模擬的數位孿生(Digital Twin)平台
Point Cloud + 光達(LiDAR)
用於天車鋼胚堆疊高度/寬度偵測的虛擬儲區建模技術
三角雷射測距法
用雷射線分離前景/背景以偵測鋼胚調運數量的物理方法
5G 基站
用於天車遠端操控訊號傳輸

值得記下的觀點

「AI 落地的時候,大部分都是環境問題⋯純用 AI 技術/限定環境用 AI/精確設計環境用 AI,是三個層次。」
「你可以思考 Google 開發無人計程車,跟大陸的蘿蔔快跑在很短時間內追上的差異——這就是純 AI 跟人機協作的差異。」

Q&A

  • 無 Q&A

查證註記

  • 許朝詠(中鋼 研究員):WebSearch 查證其現職為中鋼綠能與系統整合研究發展處研究員,且曾於 2020 年台灣人工智慧年會發表《人工智慧在鋼鐵工業之應用》,與講者自述經歷(中研院 13 年、2014 年轉任中鋼)相符。來源:2020 AI Academy 議程頁iThome 報導
  • 講者提及的「廖弘源老師」經查核為晶創計畫副執行長廖弘源,身分與其在隔天議程的講者身分一致,未見矛盾。
6Boost Productivity & Innovation – MediaTek DaVinci GenAI Platform葉家順(聯發科技 協理)

聯發科揭露「達哥」(MediaTek DaVinci) 企業級生成式AI助理平台的安全分層架構、模型/plug-in生態,以及邁向multi-agent的下一步。

重點整理

  • 開場定調:企業導入 AI 的兩大經營目的——cost down(員工生產力提升)與 value up(既有產品/服務加值變現)。
  • 「達哥」(MediaTek DaVinci)為聯發科 2023 年推動的企業級生成式AI助理平台,因中文譯名「達文西」被暱稱「達哥」,現已成為聯發科正式產品命名之一;目標比擬自駕分級 L1–L5,理想終態是「賈維斯(Jarvis)」級超級智慧助理(L5),目前約在 L2 上下。
  • 平台三大原則:安全(Security)、彈性(Flexibility)、易用(Simplicity),才能形成 network effect(網絡效應)。
  • 安全分層架構:依部門機敏程度分三套環境——非核心業務(可用外部雲端模型,如 GPT-4o、Claude、Gemini 等,透過 Virtual Private API 對接)、核心業務(如 IC 設計 RTL code、6G 研發,不可上外網,只能用地端模型如 Llama、Mistral、DeepSeek,需自建 Inference Server);所有存取皆經統一 API 層做 partition 與資訊過濾。
  • 模型庫(Model Hub)內建數十個模型;plug-in(外掛)上百個,涵蓋 Wiki、SharePoint、ERP、Oracle 等系統對接,皆有預設 Template 可快速 Configuration。
  • 強調 Prompt Engine 與 Log Data 治理:Log 用途包括稽核(有無 data leakage)、計費/chargeback(不同單位、不同模型的 quota 與計價)、以及回饋訓練(Prompt Engine 優化、RAG plug-in 或未來模型微調)。
  • 推廣路徑(企業導入方法論):建議先「用 AI」(用現成場景,如財務、HR、法務的低機敏度工作)而非急著「做 AI」(訓練自有模型);建議設定「單位生產力至少提升五成」作為第一個 check point,再用該成功案例單位去說服全公司推廣。
  • 案例(財務):以「議題度 × 解答值」(visibility × impact,加上可行性)四維象限篩選痛點,開發出「報銷客服助理」,可依權限自動理解各地/各語言員工提問並調用後端知識庫,實測後 8–9 成工作可由 AI 處理,原本 5 人團隊 3 個月後可能剩 1–2 人維運。
  • 更多案例:同業/競爭對手分析助理(自動化爬蟲+資料庫查詢)、法務/HR/財務的 CAPEX/OPEX 查詢助理(結合圖表產出)、政大退休教授開放「策略矩陣」知識庫轉化為「策略顧問」助理(RAG+知識庫,可即時查詢並分析微軟/Mistral/OpenAI 等最新產業動態)、內部 Scholar Master 論文助理(自動抓取 arXiv 等論文並比較分析)。
  • Value-up 案例:把「達哥」能力嵌入聯發科既有 IC/產品(手機、智慧音箱、白色家電、車用、Kiosk、眼鏡等),讓終端裝置具備「聽得懂人話、懂你」的個人化助理能力,類比 Apple Intelligence 的「雲端大模型+裝置端小模型」協作架構,並展望未來走向 agent-to-agent 協作(如同現在的藍牙配對機制),也提醒裝置端與雲端 agent 若互通設計不當恐有被 hack 的資安風險。
  • 生態系現況:目前三位數客戶在測試、兩位數客戶已上線;合作系統整合商包括雲豹、精誠、鴻基、台灣大哥大、NTT 等;教育端與台灣人工智慧學校、台灣經濟研究院及微軟合作推出教育雲;模型庫涵蓋自研 Breeze(BreeXe,繁中LLM)、Llama、Mistral、DeepSeek、NVIDIA NIM 等;也展示與 Metaage(虛擬人/LINE、Messenger API 對接)、能點動畫(虛擬人「達妹」)、知識會肅展中心(AIOT 開發板)、以利資訊(API 快速部署)等生態夥伴的整合案例。

提到的技術・產品・數據

MediaTek DaVinci(達哥)
聯發科企業級生成式AI助理平台,2023 年推出
Breeze(BreeXe)
聯發創新基地釋出之繁體中文大型語言模型
Apple Intelligence
講者用以類比「雲端大模型+裝置端小模型」協作架構的參照案例
NVIDIA NIM
達哥模型庫支援的推論微服務
Metaage、能點動畫、以利資訊、知識會肅展中心
達哥生態系合作夥伴(API 對接、虛擬人、AIOT 開發板等)

值得記下的觀點

「你到底是要做 AI、還是要用 AI、還是要管 AI?」(呼應蔡明順校務長觀點)
「這個助理要能達成效果,就是要聽懂人話能做事。」

Q&A

  • 無 Q&A(主持人結語後直接宣布本日議程結束、明日再會)

查證註記

  • 講者頭銜為聯發科技 協理 葉家順;經 WebSearch 查證其為「聯發科技人工智慧暨數據工程處協理」,帶領團隊打造達哥平台,與本場內容吻合。來源:工商時報天下雜誌MediaTek 官方新聞稿
  • 官方新聞稿揭露「達哥生態系已有 20+ 高科技、6+ 金融業、10+ 消費品牌、3 家電信業、5 家傳統產業加入」,與「三位數客戶在測試、兩位數客戶已上線」的說法方向一致(後者為講者於年會現場口頭補充的較新數字,未另找到可逐一核對的公開報導,標記為講者口頭揭露、未能完全查證)。

English