# Day 1（2024/09/27）R1 第一會議室 — 產業應用（13:00–17:00） > 主持人：周哲維 助理教授（逢甲大學） ## 本場速覽 | 講者 | 講題 | 一句話重點 | |---|---|---| | 黃仕鎮（玉山銀行 資料科學總監） | Generative AI applications in E.SUN Bank | 玉山銀行分享生成式 AI 從嵌入式應用到自主代理人的三階段演進，以及 Genie 平台的多模態架構設計 | | 楊政霖（CyCraft 奧義智慧 Director of Data Science） | LLMs in Cybersecurity Products: The Good, the Bad, and the Ugly | 資安公司分享導入 LLM 的效益、四大顧慮（隱私/對齊/領域知識/在地化）與 RAG 框架被攻擊的資安風險 | | 溫紹群（Deloitte 勤業眾信 資深執行副總經理／Technology & Transformation） | Unleashing AI Empowerment: a Game-Changing Ecosystem of Shared Innovation | 從產業顧問視角談 AI 落地的組織治理、數據治理與能源等總體挑戰，分享智慧物流／燈塔工廠／智慧城市顧問案例 | | 胡德民（遠傳電信 資訊長暨執行副總） | AI-Driven Future: FET's Digital Transformation Journey | 歸納企業導入生成式 AI 常見的四大挑戰，並在台上承諾 AI 導入不會犧牲員工的工作機會 | | 高士方（MSI 微星科技 研發資深協理） | AI ERA of Computing – Empowering the future with AI | 用電競筆電的高階 GPU/NPU 算力打造地端 AI 助理「AI Artist」，並佈局 AI 伺服器與 AMR 機器人 | | 林茂昌（新漢智能系統 董事長） | AI for All: Evolving from AI Supply Chain to Value Chain | 主張台灣靠 EtherCAT 等開放標準打通邊緣 AIoT，用地端 LLM 接企業資料庫做「智慧戰情室」 | --- ## 1. 玉山銀行的生成式 AI 實戰：三階段架構與 Genie 平台 (Generative AI applications in E.SUN Bank) **講者**：黃仕鎮（玉山銀行 資料科學總監） ### 一句話總結 玉山銀行分享其生成式 AI 從嵌入式應用到自主代理人的三階段演進路徑，以及 Genie 平台的多模態架構設計。 ### 重點整理 - AI 導入三階段架構：AI Embedded（信貸定價、房價估算、財力評估、防詐騙、商機探索）→ AI Copilot（系統開發、隨行理專、教育訓練、智能客服）→ AI Agent（智能客服、個人化行銷），描述 AI 應用從「嵌入既有流程」到「輔助角色」再到「自主代理人」的演進路徑。 - GENIE 平台：玉山銀行內部生成式 AI（OA 智能助理）平台，2023 Q4 試營運，2024 年初正式上線，2024/09 推出 GENIE 2.0。 - Genie 平台架構：多模態（Text／Image／Voice／HTML／PDF／Video）、多通路、多模型、多功能（會議記錄、法規比較、客服等）。公開報導證實 GENIE 2.0 的多模態架構新增了錄音與圖片（1.0 僅純文字），同時從僅限桌機擴大到可在行動裝置使用（多通路）；技術上採用 RAG（Retrieval-Augmented Generation）從知識庫擷取資訊輔助生成，並設有 NLP 閘道（Gateway）做輸出前的敏感資料偵測與過濾，作為資安最後防線。「多模型」的具體所指（是否為多個 LLM 並行/切換）未查得更細節的公開說明。 - LLM GUI 設計邏輯：先引入相關資料，再由生成式 AI（GAI）進行彙整後輸出。 - 自建原因：銀行是特許行業，客戶資料是生命線，因此選擇自建而非直接串接外部大廠 LLM。 - GENIE 初期採用率慘淡：不重複使用者僅 17%，每日使用率約 2%；後續分析出三類問題用戶（用過但不滿意、不知道怎麼用、被部門以成本考量禁用）。改善措施包括增加功能與溝通管道、提供模板庫、強化教育訓練（特別鎖定主管，理由是「主管不用，下面的人也不會用」）。GENIE 2.0 推出後，月活躍使用人數成長 200%，實際使用量成長 6 倍（GENIE 2.0 於 2024/09 推出，與本場分享幾乎同期，這組成長數據當下是否已完整揭露尚不確定）。 - 具體應用案例：會議記錄系統（自動去除冗詞、提煉主題、標記待辦事項、分析發言比例與內容品質）、「金秘書」（分行行員 AI 助手，上線後總行接到的分行詢問電話減少 30%）、徵信報告檢查系統（用 AI 比對歷史退件原因，協助 RM 在送審前自動檢查報告完整性）、人事小幫手、財經新聞自動彙整早報等。 - 玉山金控另與 IBM 合作建立 AI 治理框架，也有報導提到玉山金控「自建 GAI 開發框架」支援業務規模化發展。 ### 值得記下的觀點 / 金句 > 「不能丟到牆外，也不能任意使用外部的 AI」——解釋玉山銀行為何選擇自建生成式 AI 平台而非直接串接外部大廠 LLM。 ### 提到的技術・產品・數據 - GENIE／GENIE 2.0 → 玉山銀行內部生成式 AI（OA 智能助理）平台 - RAG（Retrieval-Augmented Generation） → GENIE 知識庫擷取技術 - NLP 閘道（Gateway） → 輸出前敏感資料偵測與過濾機制 - 金秘書、徵信報告檢查系統、人事小幫手 → 玉山銀行內部各類 AI 應用 ### Q&A - 無 Q&A 環節。 ### 查證註記 - 本節內容整理自與會者社群共筆。 - 官方議程職稱為「資料科學總監」；查證到 2024–2025 年多篇報導一致稱其為「玉山銀行智能金融處總工程師」，兩個職稱的精確對應/先後關係未能查證。來源：[生成式AI導入企業後竟帶來痛苦？玉山銀行與志祺七七這麼說｜遠見雜誌](https://www.gvm.com.tw/article/113110) - 多模態（新增錄音、圖片）與多通路（桌機→行動裝置）已用公開報導交叉確認。來源：[智能助理下階段直面客戶 玉山引爆多元金融應用｜網管人](https://www.netadmin.com.tw/netadmin/zh-tw/trend/37DBA51CFA7D4D58A784E468EE4776DC)、[一支API提供多項應用服務，玉山通用型GenAI平臺大解密｜iThome](https://www.ithome.com.tw/news/162549) - GENIE 平台上線與 2.0 時程、初期採用率、改善成效與具體應用案例，來源：[【生成式AI年會】玉山銀導入智能助理GENIE首年實戰紀錄｜Business Insider Taiwan](https://www.businessinsider.tw/article/1197)、[【Generative AI年會】玉山銀行如何打造生成式AI平台 – GENIE？｜Business Insider Taiwan](https://www.businessyee.com/article/3929-GENIE)、[玉山銀90天做出AI平台卻乏人問津，它靠地推部隊讓使用量月月增｜商業周刊第1963期](https://www.businessweekly.com.tw/Archive/Article?StrId=7012598)、[玉山開始擁抱生成式AI，今年目標要走向業務｜iThome](https://www.ithome.com.tw/news/162547)、[持續進化的生成式AI創新服務-智能協作｜玉山銀行官網](https://www.esunbank.com/zh-tw/article?id=smile%2Fdigital%2Fintelligent_collab) - IBM AI 治理框架合作，來源：[玉山銀行攜手 IBM 建立 AI 治理框架](https://3c.yipee.cc/330753/%E7%8E%89%E5%B1%B1%E9%8A%80%E8%A1%8C%E6%94%9C%E6%89%8B-ibm-%E5%BB%BA%E7%AB%8B-ai-%E6%B2%BB%E7%90%86%E6%A1%86%E6%9E%B6%EF%BC%8C%E7%82%BA%E9%87%91%E8%9E%8D%E6%A5%AD%E5%A4%A7%E8%A6%8F%E6%A8%A1%E5%B0%8E/) - 曾有媒體報導金管會公布 61 家導入生成式 AI 的金融業名單中「玉山銀沒入列」，原因未深入查證，不代表玉山銀行未做生成式 AI，可能是名單認定標準問題。來源：[61家金融業切入生成式AI名單一次看！黃仁勳背板股玉山銀沒入列 金管會曝原因｜Yahoo奇摩股市](https://tw.stock.yahoo.com/news/61%E5%AE%B6%E9%87%91%E8%9E%8D%E6%A5%AD%E5%88%87%E5%85%A5%E7%94%9F%E6%88%90%E5%BC%8Fai%E5%90%8D%E5%96%AE%E4%B8%80%E6%AC%A1%E7%9C%8B%EF%BC%81%E9%BB%83%E4%BB%81%E5%8B%B3%E8%83%8C%E6%9D%BF%E8%82%A1%E7%8E%89%E5%B1%B1%E9%8A%80%E6%B2%92%E5%85%A5%E5%88%97-%E9%87%91%E7%AE%A1%E6%9C%83%E6%9B%9D%E5%8E%9F%E5%9B%A0-091007704.html) --- ## 2. 資安產品導入語言模型的三個面向：好的、壞的、醜陋的 (LLMs in Cybersecurity Products: The Good, the Bad, and the Ugly) **講者**：楊政霖（CyCraft 奧義智慧科技 Director of Data Science，PhD 於英國取得） ### 一句話總結 資安公司分享導入 LLM 的實際效益、自研 fine-tune 的四大理由，以及 RAG 框架可能被攻擊的資安風險。 ### 重點整理 - 開場現場調查：舉手詢問聽眾公司是否已導入或正考慮導入 Language Model，約六七成聽眾舉手。 - 引用 Gartner 報告：目前最被看好的五種 Generative AI 應用（編輯、聊天機器人、翻譯、摘要等）全部都與語言模型相關。 - 導入前痛點：資安公司單一次資安事件常有數百個不同惡意事件，每個都需資安專家逐一 review、寫報告、給處置建議，人力成本極高。 - 惡意 command line 混淆案例：一段看似合法但被駭客濫用來混淆的 Windows command，公司最厲害的資安專家花了整整 40 分鐘才 decode 出真實意圖；導入自研資安 LLM 後，分析師點一下即可解讀，縮短到 3 秒（**講者自述的內部案例，無外部來源佐證**）。 - 情資彙整問題：不同語言（中/英/日等）、不同格式（PDF、圖片、表格轉圖片）的威脅情報難以整合；導入 multimodal AI 統一格式後，搭配 text-to-SQL，分析師可直接用自然語言問「最近有哪些活躍的 APT 組織」，不必手寫 SQL。 - 用自研 embedding model 做惡意 command line 的語意層級關聯分析（結構不同但語意相同的惡意指令能被歸為同類）；相關研究已被 EMNLP 接受（未能查證確切論文標題/連結）。 - 內部 chatbot 處理重複性行政問題（如公司相關的常見疑問），節省客服/HR 時間。 - 為何要自己 fine-tune model 而非直接用 OpenAI/Anthropic：提出四個考量面向—— 1. **Data Privacy**：OpenAI 網頁版（chat.openai.com）的隱私政策允許利用使用者輸入內容，員工若拿公司 code 問 ChatGPT，等於資訊外洩給供應商；並舉例 OpenAI 的 GPTs 功能上線隔天就被 prompt injection 誘出下載原始 data source 連結。 2. **Model Alignment**：通用 LLM 被訓練得「有禮貌、不作惡」，遇到資安分析必要的惡意 command line 解讀需求時會直接拒答（如：「這個指令看起來很壞，你千萬不要執行喔」），不符合資安人員需要「解釋清楚它實際在做什麼」的需求。 3. **Domain Knowledge**：通用 LLM 對資安術語（如駭客常用的密碼竊取工具 "juicy potato"）缺乏知識，只會回答「沒有相關知識」。 4. **Localization**：開源 LLM 訓練語料中繁體中文比例極低（以 BLOOM 訓練資料統計約僅百萬分之四），導致問繁中卻答簡體用詞（如「計算機」代替「電腦」），對公部門客戶是大忌。 - 隱藏成本案例：同一個 query 若用 GPT-3.5/4 約耗 2500 token，換成 OpenAI o1 模型因內含 reasoning token，暴增到 15000 token（講者引用「國外實際有人做的測試」但未點名出處；o1 因 reasoning token 導致整體 token 消耗與計費大幅提高是公開已知現象，input/output 定價約為 GPT-4o 的 5–6 倍，可參考 [Analysis: OpenAI o1 vs GPT-4o vs Claude 3.5 Sonnet｜Vellum](https://www.vellum.ai/blog/analysis-openai-o1-vs-gpt-4o)，但講者引用的「2500→15000 token」這組具體數字查無法追溯到原始測試，**屬於講者自述**）；另舉一位日本資安專家在推特抱怨案例：導入某大廠 Security Co-pilot 服務後，帳單一夕暴漲到 200 萬日圓，原因是廠商片面將某功能收費調漲 3 倍（**講者自述，查無對應推特原文或報導，無外部來源佐證**；但 Microsoft Security Copilot 採用「以小時計費、與實際使用量脫鉤」的 Security Compute Units 計價模式，本身是公開已知會導致帳單超出預期的爭議點，可參考 [Security Copilot Pricing: The SCU Dial｜Redress](https://redresscompliance.com/microsoft-security-copilot-pricing-guide)，但講者提到的「200 萬日圓」「調漲 3 倍」這組具體數字未能查證）。 - 自架 RAG 框架（如 LangChain）的資安風險：引用一篇 2024 年初於 Black Hat Asia 發表的研究，針對 51 種「框架 + LLM 供應商」組合（如 LangChain+Llama、LlamaIndex+Anthropic）做滲透測試，17 種存在漏洞，其中 16 種可達成 RCE（遠端程式碼執行）、1 種可 SQL Injection；16 種 RCE 中 14 種可建立 reverse tunnel（持續回連外部主機），其中 4 種可直接取得 reverse shell。攻擊原理是框架（如 LangChain）處理 LLM 回應內容時未妥善過濾，會自動執行回應中夾帶的惡意指令。經查證，此研究應為 Tong Liu 等人的《Demystifying RCE Vulnerabilities in LLM-Integrated Apps》（[論文全文｜arXiv:2309.02926](https://arxiv.org/abs/2309.02926)，正式發表於 [ACM CCS 2024](https://dl.acm.org/doi/abs/10.1145/3658644.3690338)），論文中測試 51 個潛在受影響應用、17 個攻擊成功（16 個 RCE、1 個 SQL Injection），數字與講者所述完全吻合；同一團隊也在 [Black Hat Asia 2024 發表同一技術「LLM4Shell」](https://hackhunting.wordpress.com/2024/04/22/llm4shell-a-new-technique-to-achieve-rce-on-llm-integrated-frameworks-and-apps/)，時間點與講者所述「今年年初」相符，reverse tunnel/reverse shell 的細節數字（14/4）未能在公開摘要中逐一核對，暫依講者原話記錄。 - Key takeaways：(1) 不要迷信 LLM 萬能，應從小的、非關鍵功能開始導入（Start from small）；(2) 若要 fine-tune 自研 model，務必評估上述隱私/對齊/領域知識/在地化四面向，加上資安風險共五面向；(3) 自架地端 model 不等於完全免綁定、免成本，需評估團隊是否有足夠部署/retrain 的資安人才；(4) 很多企業「為買而買」，設備買了卻不知道怎麼用，只是為了消化預算做業績。 ### 值得記下的觀點 / 金句 > 「你的預算不是你的預算」——形容企業導入語言模型後，Token 計費模式（尤其是含 reasoning token 的模型）常帶來意料之外的隱藏成本。 > 「這是砧板上的一隻羔羊，任人宰割」——形容企業若未與 LLM/雲端服務供應商談清楚計價與漲價通知條款，議價權完全不對等。 ### 提到的技術・產品・數據 - 自研 fine-tune 繁中資安 LLM → 用於自動生成事件總覽報告、解讀惡意 command line - Multimodal AI + Text-to-SQL → 統一多來源（PDF/圖片/網頁）威脅情報格式，供自然語言查詢 - 自研 embedding model → 做惡意指令的語意層級關聯分析 - LangChain 等 RAG 框架的 RCE 漏洞（[LLM4Shell／Black Hat Asia 2024](https://hackhunting.wordpress.com/2024/04/22/llm4shell-a-new-technique-to-achieve-rce-on-llm-integrated-frameworks-and-apps/)；正式論文 [arXiv:2309.02926](https://arxiv.org/abs/2309.02926)，51 種框架組合中 17 種存在漏洞） ### Q&A - 無 Q&A 環節。 ### 查證註記 - 講者姓名與公司名稱以官方議程為準：**楊政霖**（CyCraft 奧義智慧科技 Director of Data Science）。 - CyCraft 現行威脅暴露管理平台官方名稱為 **XCockpit**（[CyCraft XCockpit | Threat Exposure Management Platform](https://www.cycraft.com/en/xcockpit)）。 - LLM 資安相關討論見 [R3-深度技術.md](./R3-深度技術.md)（邱銘彰／翁浩正／查士朝三場資安連講）與 [R3-深度技術-FlashTalk.md](../day2/R3-深度技術-FlashTalk.md)（沈宜婷．用未對齊模型自動化滲透測試）。 --- ## 3. 解放 AI 賦能：共創生態圈的變革之路 (Unleashing AI Empowerment: a Game-Changing Ecosystem of Shared Innovation) **講者**：溫紹群（Deloitte 勤業眾信聯合會計師事務所 資深執行副總經理，數位轉型服務負責人，Technology & Transformation） ### 一句話總結 從產業顧問視角談生成式 AI 落地的組織/數據治理與總體經濟挑戰，並分享多個智慧製造顧問實案。 ### 重點整理 - 開場觀點：台灣多數企業投入生成式 AI 的重點不是底層大語言模型的研發（國外新創在此的投資佔比高達 50–60%），而是「運用大語言模型做特定產業應用」；這與台灣博士生/碩士生佔比結構有關，長期而言普遍性較高的底層模型投資「長期可期待性較高」。 - 提醒 2025 年景氣預期偏緊縮，多位金融業主管私下反映明年 AI 預算會更保守；建議技術可行性測試仍必要，但爭取預算時要用財務長、人資長聽得懂的語言（現金流、人力/庫存管理效率），而非純技術語言。 - 舉例零售應用情境：若能把顧客人流（非結構化影像資料）結合熟食/生鮮 POS 銷售資料分析，理論上可望在每天下午三四點自動偵測滯銷品並自動降價 8 折促銷（講者作為潛在應用場景舉例，未說明是否為已落地實案）；並指出企業資料中非結構化資料可能佔 50% 以上，多半「躺在那邊沒有被拿來分析」。 - 金融業案例：提及近期某金融機構斥資約 80–100 億元新台幣進行核心系統轉換的公開新聞案例（未指名機構）；即使數位化程度高的金融機構，要從 legacy 系統中把資料抽出做進一步分析仍非常耗時耗錢。 - 指出多年 RPA（流程自動化）導入的落地困境：企業若未先在組織/流程層面做「集中化」（把分散在 A/B/C 部門的相同工作整併為共用服務），單靠導入技術很難真正省下顯著人力成本。 - AI/data governance 建議框架：企業應在「策略、組織、風險管理、評估方法、數據倫理、可信賴 AI、安全合規」等面向建立治理機制；非金融業可能兩三人就能涵蓋，金融業則往往需要五六個單位共同把關。 - Deloitte 實際顧問案例：(1) 協助中華郵政規劃桃園 A7 智慧物流園區（含 5 棟建築物的 AIoT 倉儲數位化）擔任規劃顧問——A7 智慧物流園區本身是真實存在的公開專案（[中華郵政「智慧物流園區」開工｜數位時代](https://www.bnext.com.tw/article/61006/postoffice-a7)），但查無公開資料明確證實 Deloitte 是此案的規劃顧問，**這部分屬於講者自述，未能查證外部佐證**；(2) 協助某半導體廠角逐並維持 WEF「燈塔工廠」認證（全球約 130 座，該公司為半導體業唯一入選），現正協助朝「永續燈塔工廠」方向發展——WEF 全球燈塔工廠網絡本身是真實存在的公開計畫（[Global Lighthouse Network｜WEF](https://initiatives.weforum.org/global-lighthouse-network/home)），但講者當場未點名廠商，本次查證也未找到具體是哪一家半導體廠、或 Deloitte 顧問角色的公開報導，**未能查證**（查證過程中僅確認台灣入選的燈塔工廠多為面板廠如友達、群創，未查得半導體廠的對應案例）；(3) 2022 年協助新北市角逐全球智慧城市評比第一名（Smart City Top 1）——查證到新北市政府 2022 年確實獲頒 ICF（Intelligent Community Forum）智慧城市 Top 1 首獎（[新北，全球首座完整認證智慧城市｜遠見雜誌](https://www.gvm.com.tw/article/103832)），公開資料亦提及勤業眾信數位轉型服務團隊參與協助，這部分**有外部報導可佐證**。 - 提出金融業「理財機器人／可解釋 AI」的公正第三方驗證需求：金融監理機關要求 AI 不能有 bias，但講者認為「精準」本質上就帶有 bias 傾向（找到最有價值客群），如何在「精準」與「普惠金融」的社會責任間權衡，是需要各公司自行思辨的治理課題；並提及國外金融業已出現「AI 倫理長」職位。 - 台灣能源與 AI 連動議題：台電規劃電力供應要「產業均衡化」，不再是南電北送/中電北送，意味著地方不蓋電廠就難以在地興建 AI data center；當再生能源佔比拉高到 20%，供電呈現間歇性，需要儲能、虛擬電網、需量預測調度來平衡供需，將成為熱門議題。 - 對「玩模型」與「做平台」的區分：從 0 到 1 是「玩模型」，從 1 到 100（規模化到上百人使用不同機器人/平台）則進入資料整合與治理的問題，才是決定 AI 能否真正規模化的關鍵。 - 提醒欲靠資料變現、甚至規劃 IPO 的公司，務必留意資料安全與隱私議題，因為證交所/主管機關審查時會嚴格檢視相關風險是否被妥善控管。 ### 值得記下的觀點 / 金句 > 「AI 的時代要會講故事」——強調對 CXO 報告 AI 專案時，若講不出具體應用場景，決策者聽不懂也不會買單。 > 「這個命題就好像是老婆跟媽媽掉到海裡面，你要先去救哪一個」——形容「精準行銷/風控」與「普惠金融」的社會責任之間的兩難權衡。 ### 提到的技術・產品・數據 - Deloitte「AI and Data Operations」managed services（贊助商廣告內容，非講者本人簡報重點） - 中華郵政桃園 A7 智慧物流園區（[專案本身的公開報導｜數位時代](https://www.bnext.com.tw/article/61006/postoffice-a7)；Deloitte 顧問角色未能查證外部來源） - WEF 全球燈塔工廠（Lighthouse Network）認證案（[計畫官網｜WEF](https://initiatives.weforum.org/global-lighthouse-network/home)；講者未點名廠商，具體公司與 Deloitte 顧問角色皆未能查證） - 2022 新北市全球智慧城市 Top 1 顧問案（[新北，全球首座完整認證智慧城市｜遠見雜誌](https://www.gvm.com.tw/article/103832)） ### Q&A - 無 Q&A 環節。 ### 查證註記 - 溫紹群現職為勤業眾信「資深執行副總經理」（數位轉型服務負責人）。來源：[清華人故事館—溫紹群](https://alumni.site.nthu.edu.tw/p/404-1346-212023.php)、[高雄市政府簡報資料：溫紹群資深執行副總經理](https://orgws.kcg.gov.tw/001/KcgOrgUploadFiles/415/relfile/74528/465043/1634250f-4a5a-453b-81f1-bf629bc5d683.pdf) - 講者提到金融業斥資「80 億~100 億」做核心系統轉換一事，為引用的公開新聞案例但未指名機構，未進一步查證特定公司名稱。 - 講者提到「燈塔工廠」半導體廠客戶時未明確點名公司，故照實記錄為「某半導體廠」，未強行指認廠商名稱；查證時僅能確認 [WEF Global Lighthouse Network](https://initiatives.weforum.org/global-lighthouse-network/home) 計畫本身存在，未能查得對應的半導體廠或 Deloitte 顧問角色的公開報導。 - 講者提到協助中華郵政規劃 A7 智慧物流園區一事，該園區本身是公開專案（[數位時代報導](https://www.bnext.com.tw/article/61006/postoffice-a7)），但 Deloitte 擔任規劃顧問一節查無外部報導佐證，屬講者自述。 --- ## 4. 遠傳電信的 AI 轉型：企業 GAI 四大挑戰 (AI-Driven Future: FET's Digital Transformation Journey) **講者**：胡德民（遠傳電信 資訊長暨執行副總） ### 一句話總結 遠傳資訊長歸納企業導入生成式 AI 常遇到的四大挑戰，並在台上承諾 AI 導入不會犧牲員工的工作機會。 ### 重點整理 - 企業 GAI 四大挑戰：(1) 應用場景的模糊、(2) 價值變現的困難、(3) 專業人才的缺乏、(4) 有效數據的不足。 - 主張「讓專業的人發展他們的專業，讓我們專心應對我們的專業」，強調分工協作而非事事自己重造。 - 定調 Generative AI 正帶動「白領革命」，強調企業導入要「有目標、有規劃、要快、要能 measure results（可量測成果）」。 - 針對員工對 AI 的疑慮，講者在台上宣示絕不會因為導入 AI 影響員工的工作機會，作為讓員工放心導入 AI 的訴求。 - 背景脈絡：遠傳自 2018 年成立「轉型辦公室」，以「大人物」（大數據、人工智慧、物聯網）作為核心技術主軸；2022 年將轉型辦公室與資訊部門整併為「資訊暨數位轉型科技群」，致力於把電信業轉型為科技服務公司。 - 代表案例：5G 遠距診療平台（2022 年成果，涵蓋 12 縣市、35 家衛生所，累計觸及 27,529 人次，含視訊門診 21,122 人次、遠距會診 6,407 人次，估計減少醫療成本浪費 414 萬元、病患成本 755 萬元、減碳 81.56 公噸）；friDay 影音導入 Azure OpenAI 推薦功能後躍升為台灣影音平台排名第三。 - 「內服外用」模式：先在遠傳內部解決實際問題，成熟後再包裝成對外的企業解決方案（AI Ready 企業方案、AI 人才培訓、GenAI 工作坊、Copilot 導入顧問服務），應用場域延伸至智慧城市、智慧醫療、智慧校園。 ### 值得記下的觀點 / 金句 > 「讓專業的人發展他們的專業，讓我們專心應對我們的專業。」 > 在台上宣示絕不會因為導入 AI 影響員工的工作機會。 ### 提到的技術・產品・數據 - 5G 遠距診療平台 → 涵蓋 12 縣市、35 家衛生所 - friDay 影音 + Azure OpenAI 推薦功能 → 躍升全台影音平台排名第三 - 「大人物」（大數據／AI／物聯網） → 遠傳數位轉型核心技術主軸 ### Q&A - 無 Q&A 環節。 ### 查證註記 - 本節內容整理自與會者社群共筆。 - 講者完整職稱為遠傳電信資訊暨數位轉型科技群執行副總經理；2021 年 8 月加入遠傳電信，先前任職微軟（北京開發平台事業部總監、台灣微軟專業技術事業群總經理），1997 年畢業於淡江大學資訊管理系。來源：[【專訪】遠傳電信資訊暨數位轉型科技群執行副總經理胡德民｜CIO Taiwan](https://www.cio.com.tw/interview-mr-hudmin-deputy-general-manager-of-the-far-to-communications-information-and-digital-transformation-technology-group/)、[【第38屆金鷹獎特刊】遠傳電信執行副總經理胡德民｜淡江時報](https://tkutimes.tku.edu.tw/dtl.aspx?no=58339) - 5G 遠距診療平台與 friDay 影音成果數字，來源：[遠傳電信先自我內部再造後助企業轉型｜INSIDE](https://www.inside.com.tw/article/25558-fet-peterhu) - 查證到遠傳電信總經理井琪（非胡德民本人）在其他公開場合曾說「AI 不會取代任何員工，但不懂 AI 的人，將被懂 AI 的人取代」，精神上與此處的承諾相呼應，但講者、措辭、場合皆不同，僅列為公司對外一貫立場的旁證，不代表是同一句話的另一種記錄。來源：[怎讓最不AI部門甘願使用？遠傳從員工想省時、怕出錯下手｜數位時代](https://www.bnext.com.tw/article/90770/fetnet-ai-employees) --- ## 5. AI 運算新紀元：用 AI 賦能未來 (AI ERA of Computing – Empowering the future with AI) **講者**：高士方（MSI 微星科技 研發資深協理） ### 一句話總結 微星用電競筆電的高階 GPU/NPU 算力打造地端 AI 助理「AI Artist」，並跨足 AI 伺服器與 AMR 機器人企業產品線。 ### 重點整理 - 核心主張：微星電競筆電因搭載高階獨立顯卡（如 RTX 40 系列），算力遠超一般 AIPC 規範定義的 NPU 需求，因此「電競筆電就是地表最強的 AIPC」；以 RTX 4050 以上顯卡為例可貢獻超過 250 TOPS 算力，4090 甚至超過 1000 TOPS（約當時 NPU 算力，如 Lunar Lake 45 TOPS，的 5 倍以上）。 - 產品迭代時間軸：2023 年 Computex 推出第一代「AI Artist」文生圖工具，地端運算搭配 NVIDIA TensorRT 加速器，出圖僅需 1.5 秒；2024 年 CES 版本新增圖生圖、圖生文、微調（fine-tune）功能；2024 下半年轉向語言模型，把 LLM 嵌入 AI Artist，使用者可用自然語言詢問「為什麼視訊會議看不到我自己」，AI Artist 能直接判斷並操控硬體（如自動開啟被關閉的鏡頭、調整螢幕亮度）。 - 導入 RAG（講者稱為「AI Fire」）：讓使用者自行匯入文件（舉例：六法全書、國小國文教材），做成客製化問答或出考題工具，目標是打造「百工百業都能用的 AI 能手」。 - 技術轉型邏輯：觀察到 LLM 小型化（SLM，如 70B、7B 甚至 2B 規模）趨勢及多模態發展，才將 AI Artist 重心從單純文生圖轉向語言模型；小型任務型模型的挑戰在於精準度與任務方向的架構規劃，而非推理速度（推理速度已靠 NVIDIA TensorRT 加速器解決）。 - 深偽（deepfake）辨識：舉 Tom Cruise 彈吉他的知名 AI 假影片、與南韓虛擬主播「金柱夏」（可 24 小時不間斷播報）為例，說明生成式 AI 已能高度以假亂真；微星與 Intel 合作研究透過膚色/血管等生理特徵微變化辨識深偽，但目前判斷數據仍不夠精準，屬持續研發方向，尚無成熟產品。 - 企業產品線佈局：AI Server（伺服器產品線，涵蓋 L10–L11、2U–4U 機型，支援 AMD/Intel 平台）扮演「大腦」；AMR（自主移動機器人，技術脈絡承襲自掃地機器人並延伸到工廠自動化）扮演「手跟腳」，具備視覺感測器可自主建圖與判斷；應用場景涵蓋零售補貨、倉儲搬運重物、醫療環境的消毒與器材遞送等對人類不友善的作業場域。 - 強調企業級 AI 主張「地端化」部署：因應金融業（金流、客戶資訊依法規不可上雲）與工廠產線（高即時性要求）的需求，微星企業方案聚焦把算力部署在企業 IT 內部而非公有雲；並與 NVIDIA 有共同開發專案，將雲端開發經驗與平台轉進地端。 ### 值得記下的觀點 / 金句 > 「電競筆電就是地面上最適合、也是最強大的 AIPC。」 ### 提到的技術・產品・數據 - MSI AI Artist → 微星地端 AI 助理，功能歷經「文生圖 → 圖生圖/圖生文 → 語言模型 + 硬體控制 → RAG（AI Fire）」四階段演進 - NVIDIA TensorRT 加速器 → 用於地端生圖/推理加速 - MSI AI Server 產品線（L10–L11、2U–4U，支援 AMD/Intel） - MSI AMR（自主移動機器人）→ 應用於零售、倉儲、醫療場域 ### Q&A - 無 Q&A 環節。 ### 查證註記 - 講者職稱依官方議程為「微星科技 研發資深協理」（高士方）。網路檢索未查得「高士方」個人公開職稱頁面可佐證細節（未能查證），惟依任務要求以官方議程資訊為事實基準。 --- ## 6. 全民 AI：從 AI 供應鏈進化到價值鏈 (AI for All: Evolving from AI Supply Chain to Value Chain) **講者**：林茂昌（新漢智能系統股份有限公司 董事長，新漢集團／NEXCOM 創辦人） ### 一句話總結 主張台灣應靠 EtherCAT 等開放標準打通邊緣 AIoT，用地端 LLM 接企業資料庫做「智慧戰情室」加速製造業轉型。 ### 重點整理 - 核心觀點：AI 伺服器供應鏈雖已賺得盆滿缽滿（NVIDIA 毛利約 75%、TSMC 約 53%，中游 AI 伺服器代工毛利僅 6–8% 但營收規模較傳統 Server 放大數十倍），但供應鏈終將飽和；下游雲端服務業者（Cloud Service Provider）則面臨龐大投資（微軟/Google/Meta/Amazon 平均每年約 500 億美元，未來數年內恐破千億美元）但獲利前景未明的「軍備競賽」處境，講者稱之為「雲深不知處」。 - 提出台灣不適合做「AI Cloud Service Provider」的論點：跟人口學相關（源自互聯網）的大數據具有「屬地主義」特性，只有像中國（14 億人）、美國（依託英語圈潛在市場估算超過 20 億人）這種人口規模的國家才養得起雲端巨頭；相對地，跟「物理學」相關的市場（材料特性、機械特性、硬體功能、環境/生理監測）與地點、人口無關，適合全球化經營，這正是台灣發展 Edge AI／AIoT 的黃金機會。 - 具體技術路徑：採用 **[EtherCAT](https://www.ethercat.org/en/technology.html)**（工業乙太網路即時通訊標準；官方標準組織為 EtherCAT Technology Group）打造控制器，統一控制 CNC 機台、泛用機（General Motion Control）、雷雕機、AOI 檢測機、機械手臂、AMR 等異質設備；對於封閉架構品牌（如機器人四大家族、部分工具機控制器）則透過閘道器（Gateway）做訊息互通。此控制器平台稱為「**[iRPA2000](https://www.nexaiot.com/cn/industry/Robot%20Process%20Automation)**」，為新漢官方產品線之一。 - 智慧工廠架構分四層：L1 機械設備層（用 EtherCAT 打通異質設備）、L2 聯網層（彙整 OT 層與 IT 層數據，如 ERP/MRP/MES/CRM）、L3 數據應用層（用數據中台「NextData」讓智慧製造應用開發像手機 APP 一樣快速）、L4 企業戰情室（即時決策，接上生成式 AI 後可望做到「預知式」應變）。核心監控系統產品為「**[iAT2000](https://www.nexaiot.com/tw/iAT2000/System%20Overview)**」（雲智化監控系統），同樣為新漢官方產品線。 - Killer application 主張：把企業自有的 NextData 數據庫接上生成式 AI，因資料庫「有邊界、內容明確」，比起公版 ChatGPT 撈全網資料容易「一本正經胡說八道」更準確可靠；過去開發一套垂直解決方案（如預知保養、節能減碳）需兩三個月，現在企業戰情室可用一問一答方式「不到兩分鐘」得到答案，且方案為全地端部署，企業機敏資料不外流、結果可解釋、無 AI 幻覺疑慮。 - 產業論述：引用麥肯錫預測，全球物聯網市場規模至 2030 年可達 5.5 兆至 12.6 兆美元；主張台灣機械/硬體代工產業若能走向開放標準化，可望複製 PC/手機產業當年開放生態系帶動蓬勃發展的路徑，甚至對外輸出「無人生產線／無人工廠」整廠服務。 - 開放策略：將 iRPA2000、iAT2000、eSafe（OT 資安平台）、DVOI（智慧影像平台，講者稱為「物聯網的眼睛」）等技術放上開放平台（暫記為「物聯羽」，推測為新漢自有 AIoT 平台專有名稱，正式名稱未能查證）供免費下載，目的是降低 AIoT 創新創業的技術與成本門檻。 ### 值得記下的觀點 / 金句 > 「算力及國力，好像算力越大，國力就越強，這個是對的嗎？……我們就算力夠用就好。」——質疑「拚算力」敘事不完全適合台灣這種人口規模的小國。 > 「AI 的雲服務是天龍的話，我們新漢就是地虎。」——形容新漢自我定位為 AIoT／邊緣 AI 的「地端協力者」。 ### 提到的技術・產品・數據 - EtherCAT → 工業乙太網路即時通訊標準，新漢用以打通異質機械設備。[官方技術說明｜EtherCAT Technology Group](https://www.ethercat.org/en/technology.html) - iRPA2000 → 新漢新世代機器人共創平台。[官方產品頁｜新漢智能 NexAIoT](https://www.nexaiot.com/cn/industry/Robot%20Process%20Automation) - iAT2000 → 新漢雲智化監控系統（企業戰情室核心產品）。[官方產品頁｜新漢智能 NexAIoT](https://www.nexaiot.com/tw/iAT2000/System%20Overview) - NextData → 新漢的製造業數據中台，主打接上生成式 AI 做問答式戰情室 - eSafe → OT（維運技術）資安平台 - DVOI → 智慧影像平台 - 麥肯錫 2030 年全球物聯網市場規模預測（5.5 兆至 12.6 兆美元） ### Q&A - 無 Q&A 環節。 ### 查證註記 - 講者姓名/職稱與官方議程一致：林茂昌（新漢智能系統 董事長），亦為新漢集團（NEXCOM）創辦人，1992 年創立新漢電腦。來源：[商業周刊—董事長林茂昌](https://www.businessweekly.com.tw/management/blog/3013672)、[科技創新個案：新漢集團](https://rich4innovation.com/blog-%E7%A7%91%E6%8A%80%E5%89%B5%E6%96%B0%EF%BC%88%E4%B8%80%E7%99%BE%E4%BA%94%E5%8D%81%E4%BA%8C%EF%BC%89%EF%BC%9Aaiot%E7%94%A2%E6%A5%AD%E5%80%8B%E6%A1%88-%E6%96%B0%E6%BC%A2%E9%9B%86%E5%9C%98%EF%BC%9A/)、[TEEIA—新漢智能系統](https://www.teeia.org.tw/tw/manufacture/%E6%96%B0%E6%BC%A2%E6%99%BA%E8%83%BD%E7%B3%BB%E7%B5%B1%E8%82%A1%E4%BB%BD%E6%9C%89%E9%99%90%E5%85%AC%E5%8F%B8?theme=all) - 演講末段提到的免費下載平台名稱（暫記為「物聯羽」），未能查證其正式名稱，故照實標註。