《 初探_台積電的人工智慧策略 》

1.【台積電IT卓越新戰略1】

     台積IT數位轉型下一步，四大原則加速邁向數位卓越

經過5年數位轉型，台積IT揭露了下一階段發展的方向，要以「範圍更廣，「涵蓋更深」，「雙倍加碼AI」，「步調更快」這四大原則為策略，來加速邁向全面性的數位卓越。

2022年揭露的IT藍圖，以「跑在程式碼上的晶圓廠」（Fab Runs On Code）概念為核心。

2022年數位轉型六大方向，從2022到2025年，大力擁抱雲原生技術，更採用了不少開源技術。

1.智慧製造。
2.善用科技讓維運更聰明。
3.推動工作型態現代化。
4.供應鏈數位化。
5.引進現代化技術架構。

6.雲原生設計。

台積IT在2022年公開了這套自建K8s的技術架構。

台積IT的下一階段發展戰略，加速邁向全面性數位卓越。

台積IT下一階段的新目標「數位卓越」，要站在過去幾年數位轉型的成果上來發展，也就是以「跑在程式碼上的晶圓廠」的基礎，在全球製造卓越、技術研發和商業營運上，以「範圍更廣」、「涵蓋更深」、「雙倍加碼AI」、「步調更快」等四大卓越原則，來持續改善。

---

2.【台積電IT卓越新戰略2】

     台積IT怎麼用GenAI?生成式AI發展路線圖首度大公開

台積IT從2023年初，就開始大力擁抱生成式AI，2025年要加碼發展AI，首度公開了生成式AI應用的發展藍圖，2025年到2026年的第四階段目標，聚焦LLM和系統的協作。

台積IT的資料平臺經過三代演化，下一步要邁向資料民主化，打造人人都能善用的資料生態圈。近幾年更大力發展生成式AI，首度公開了四階段的GenAI發展藍圖。

台積IT第一代資料平臺，按照領域劃分資料庫，採取多團隊共享的資料架構，也出現了許多資料孤島。

台積IT第二代資料平臺，採用開源大數據分析平臺Hadoop，搭配開源分散式NoSQL資料庫Cassandra，來打造分散式架構的資料平臺。

台積IT第三代資料平臺，採用現代化的湖倉架構，採取OLAP線上資料處理的設計，可以支援到PB級資料的處理能力，又能支援多樣化的資料查詢方式。

第三代資料平臺的願景，不只是要打造一套統一的平臺和工具鏈，更像是要發展一個讓台積所有人都能容易善用的資料生態系。

未來能實現「資料民主化」（Data Democratization）的願景，可以讓企業中的每一個資料使用者，不需要依靠資料工程團隊，也能探索、存取、了解和信任平臺上的資料。

從四大方面來強化資料平臺，

1. 第一是「資料探索和治理機制」，像是集中式資料探索機制、資料血統分析、資料架構和所有權管理、資料安全控管等。
2. 其次是要「打造自助式分析工具」，提供如自助探索用的儀表板和視覺化工具，也要能支援重度分析者的程式化操作需求，
3. 第三個方向是「提供資料建模和語意層」，可用來將原始資料，轉換成貼近業務也容易重複使用的資料產品，
4. 最後一個面向是要「有確保資料完整性的機制」，像是資料可觀察性的處理流程，自動化的資料驗證機制等。

過去六年AI算力需求變化，2025年預估是2020年前的好幾倍。

• 2011年，就將AI技術引進晶圓製造，積極發展各項大數據應用和平臺，資料平臺也不斷演進改版。

• 2022年的台積IT數位轉型目標，更瞄準了全面智慧化挑戰，要強化資料處理、智識萃取、規模化（如AI服務平臺化、產品化，來擴大AI應用規模和廣度）以及AI應用的全球維運與安全。

• 2023年5月推出了一款AI夥伴tGenie，可以回答問題、提供資訊，也能執行一些指令，或是設定提醒事項、翻譯語言、幫忙計算數學問題等。

• 2024年開始爆發強勁的算力需求，2025年的GPU算力需求是2020年的好幾倍之多。

台積AI應用需求也是年年增加，從模型技術或機器學習功能的需求，都是一年比一年成長。

• 2025年對AI推論需求更暴增，平均一周需要的模型推論需求，就比2024年的平均每周需求量，多了一倍，這些數據都反映出台積全力發展AI的力道。

台積IT雙倍加碼AI的發展焦點，可細分為 :

 通用型AI、領域知識型AI，領域技能型AI。

領域型AI細分成兩類，一類是

領域知識型AI（Domain Knowledge AI）和

領域技能型AI（Domain Skills AI）。

台積IT的生成式AI應用發展路線圖，以LLM進展分為四個階段，2025到2026年第四階段的發展目標是LLM和系統協作。

1. 2023年是第一階段，要借重全球LLM經驗，善用雲端LLM的知識和能力，快速打造出一般性的GAI應用，像是個人助理tGenie或程式碼開發助手。
2. 2024年進入第二階段，要發展「量身定做專業知識的LLM」（LLM Tailored Expertise），結合了台積自己獨有的資料，開始建置本地端執行的專用型大型語言模型，來解決特定任務的需求，像是知識管理AI助手，數位客服，內部服務臺（Helpdesk）等。
3. 接著，2024年後續進入第三階段的發展，要讓「LLM與系統互動」，可以透過自然語言對多個系統下命令，來提高效率，像是用自然語言來輔助問題分析、故障排除等。
4. 到了2025年到2026年，台積IT的LLM發展進入了第四階段，新的目標是「LLM和系統協作」，要善用LLM和台積的系統無縫協作，將複雜的任務，轉換成單一流暢的處理程序。現在當紅的代理型AI技術，正是台積GAI第四階段發展的重點。

用代理型AI來實現「超級自動化」（Hyper Automation），

一方面，讓代理型AI與外部系統互動，進行資料處理，甚至有能力自主判斷 ; 

另一方面，運用代理AI模仿真人員工的行為來行動，將目前仍需手動處理的流程

盡可能數位化。

從「跑在程式碼上的晶圓廠」到「全面邁向數位卓越」發展戰略，過去兩年多來的數位轉型，IT成為台積電全球製造的核心關鍵，重要性更是年年不斷提高，GAI時代崛起，帶來了許多快速演進的新技術，像是代理型AI，成了台積IT解決全球化擴廠挑戰的新武器。

IT可以對台積產生很大的影響力，若能用IT提升1%的效能，就可能帶來價值十億元的影響。

---

3.【台積電IT卓越新戰略3】

      全球擴廠三大難題，台積IT如何善用GenAI因應的關鍵

全球化製造的三大難題，「專業知識交換挑戰」、「跨語言和文化的理解門檻」，「新人培訓和上手成本昂貴」，台積IT要用生成式AI來因應，關鍵就是要打造一套具備半導體專業知識的知識管理。

台積電積極邁向全球化製造，統計到2024年，全球有9座12吋超大晶圓廠、6座8吋晶圓廠和7個晶圓級封裝測試廠，分布在臺灣、中國、日本和美國，未來甚至會在歐洲設廠。員工數也從2020年時的5萬多人，今年達到8萬4千多人，增加了近3萬人。

晶圓廠分散全球，橫跨三大洲不同時區，

1.促進跨國員工的溝通和傳承，

2.因應不同國家文化的工作型態差異，

3.將複雜製程轉到跨國廠區都是挑戰。

從四個方向發展IT解決方案，來因應全球製造的三大難題。

因應全球製造的三大難題 :

1.第一是橫跨三大洲的時差，造成人員交流和經驗傳承的困難，尤其是新廠需要培訓 

   大量新人，

2.其次如何因應不同國家、文化、族群帶來的工作型態差異，

3.最後一項是如何轉移複雜的製程知識到跨國廠區。

從四個方向發展IT解決方案 :

1.第一個方向是「AI強化自主化製造」。
   目標是讓工廠製造，更全面地自動化和自主化，減少人為介入，讓所有工廠、生產     盡可能靠IT系統來處理。
 2.第二個發展方向是「善用邊緣運算即時反應和防禦」。
    若能即時搜集全球各地工廠最細緻的資料，就能即時反應，也能協助當地員工處
    理。
3.第三個IT解決方向則要打造「現代化數據平臺，推動數據驅動決策」。 
   隨著資料量越累積越多，工廠也升級到更高程度的自動化作業後，工程師需要處理     的問題其實更加的複雜，因此，需要一個數據平臺和分析平臺，協助產線工程師更
   有效地分析工廠狀況。
4.最後一個方向是，「靠IT打造更好協作的數位工作環境」。

   讓全球員工串連到單一平臺中協作，消弭跨地理區域、跨組織的邊界。

已經善用AI來強化半導體製造，從工廠自動化、工作流程自動化、設備控制等都大量運用AI，但還是許多傳統AI技術難以解決的課題，需要真人工程師處理。

台積全球擴廠當前的三大難題，而且會互相影響。

1. 專業知識交換挑戰。
2. 跨語言和文化的理解門檻。
3. 新人培訓和上手成本昂貴。

分三階段運用生成式AI，來打造出自己的知識管理系統，因應三大難題。

1.第一階段在知識建置階段。

   知識管理平臺最好採取集中式的線上共同編輯平臺，而非像過去分散儲存在個人硬 

   碟。
2.第二階段是知識管理階段。

   建立知識管理系統和內容(權限控管、 知識品質確保流程、提供使用者更友善的搜  

   尋方式，以及建立系統性的自動確認機制，定期檢查和註記哪些知識已經過時)。
3.最後一個階段就是要知識應用階段。

   現在非常成功且廣泛使用的RAG（檢索增強生成）做法只是台積知識管理應用的起

   點，像是設備AI、流程AI、良率AI都可以善用知識管理系統來優化。

運用生成式AI打造知識管理的技術架構，主要有六大類技術。

1. 第一類核心技術是基礎模型，像是商用或開源的LLM、VLM或LMM等，台積IT只用達到SOTA等級的模型來測試，減少因模型能力不足的干擾。
2. 第二是要有一套模型微調客製化技術，可依據不同應用來優化模型。
3. 第三類技術是RAG和各種代理技術框架。
4. 第四類核心技術則要有一套知識捕捉和處理機制，像是ETL處理流程、OCR技術、NLP技術、文件排版分析等，才有能力將既有資料整理成AI看得懂的形式。
5. 知識捕捉後，要搭配一套知識儲存和呈現機制，像是向量資料庫、知識圖譜（Knowledge Graph）、知識萃取層等機制，這是第五項核心技術。
6. 最後還有一套LLMOps和監控技術，包括模型生命周期的管理工具和系統效能監控機制，尤其日後越來越多AI代理的互動，API和LLM間的互動會更加複雜，需要及早建立一套監控機制。

用LLM來理解台積四類專業術語的難度各有不同，內部自訂用語和部門行話，因為資料量最少，LLM訓練難度也最高。

內部專業術語主要有四大類，

1. 第一是製造專業術語，如FinFET指鰭式場效電晶體。
2. 第二是內部自訂用語，像是平臺工程處簡稱PLED。
3. 第三類則是半導體製造領域的慣用語（Idioms），像是「產品ramp up」指產品進入量產階段。
4. 最後一類是行話(Slang/Jargon），像是「洗衣板」指波浪形石墨，「卡哩卡哩」不是零食而是五金工具的棘輪扳手。

用AI發展出了一套系統性管理行話（Jargon）的做法，主要有四大步驟。

1. 建立了一套集中式，可以動態更新的企業術語資料庫還不夠，
2. 台積IT還搭配了一套細緻的使用權控制。
3. 因為不同部門的有些行話，可能屬於機敏性內容，因此，這個內部的企業術語庫，也需要角色權限控管（RBAC）機制，提供更精細的術語存取控制。使用者查詢這些行話時，還會依據他的權限來呈現個人化的檢視畫面，更搭配AI主動推薦用戶所從事活動的相關數據。
4. 行話會隨著使用過程和技術發展產生變化，術語資料庫也具備版本控管，可以追蹤行話的演變。

靠四層次的金字塔策略，用GAI解決大量新人培訓難題

1. 未來希望用生成式AI打造一個新人的隨身教練，可以全天候解答各種問題。
2. 另外，也能用生成式AI從企業知識管理系統中，自動產生互動式培訓教材，提供資深人員參考和修改，不用從無到有自己寫。
3. 進一步再搭配AR/VR設備提供逼真的模擬培訓環境，在辦公室就能操作，來降低培訓成本。
4. 搭配這些數位化的培訓做法，就可以依據員工背景、職位和學習效率等，來量身定做各自的學習路徑。

這是台積IT善用AI來培訓新人的金字塔策略。

---

4.【台積電IT卓越新戰略4】

      台積IT打造成功AI服務的實戰心法，從流程、平臺到協作模式大公開

如何打造出一隻成功的AI服務，有一套自己的心法和跨部門協作的開發流程，

「先思考成功定義」，「釐清商業目標」、「跨職能團隊協作」，「再搭配一套AI開發平臺來執行」。

對於AI服務的導入和協作，從角色分工到平臺資源的運用，有一套明確規畫、完整的執行流程，一方面鼓勵台積內部團隊的創新，另一方面也將更多業界AI技術落地到台積的環境中。

對成功AI服務的定義，從四大面向來思考。

開發策略是以終為始，先思考什麼是成功的AI產品，這是他們打造任何AI產品的設計起點，從四大面向來思考AI產品的成功條件，

1. 不只要評估「成效」，
2. 還會考慮「使用體驗」，
3. 「使用者採用率」，
4. 以及最後一項「擴充和適應力」。

AI開發平臺架構示意圖，包括:

1. 機器學習開發平臺、
2. 維運類機制，
3. 評估類機制、
4. 部署類機制等。

打造AI服務常用四大類技術，包括:

1. 語言類AI技術、
2. 視覺類AI技術、
3. 優化類AI技術和
4. 數值類AI技術。

從AI服務開發實戰中，歸納出這四大挑戰。

從實戰經驗中，歸納出四大挑戰，包括了:

1. 問題界定的挑戰，
2. 分段進行（Phasing）的挑戰、
3. 規劃的挑戰和
4. 導入的挑戰。

開發AI服務的六大流程，

1. 從專案發起，
2. 原型，
3. 驗證，
4. 模擬，
5. 產品開發到
6. 部署。

有一套嚴謹的AI服務開發流程，分為六個階段，

1. 先從專案發起階段開始，先要確定商業目標同時就要評估可能的成本。
2. 接著進入第二階段雛形開發階段（Prototype），進行可行性研究（Feasibility Study）、最小單位的AI元件或功能實作，
3. 再來進行第三階段的驗證，這也是測試執行（Trial Run）階段，像是打造最小可行性產品來驗證，或用已知案例來評估可行性。

第二階段和第三階段就是一個POC概念驗證的過程。

     4.通過概念驗證後，就進入第四階段，前測執行（Pilot Run）的模擬階段，這  

         個階段跟測試執行最大不同是，會嘗試在類似正式上線的測試環境中模擬執

         行，也會用正式資料來驗證要前測的AI功能，甚至會找一些使用者來試用。

開發團隊在第三、第四階段也會針對使用者的需求進行微調。

      5.第五階段是Production階段，前後端團隊要完成這隻AI服務需要的各項開發   

          工程和架構。

      6.最後一步，第六階段是部署，會整合所有的系統監控功能，包括:異常偵測，都

          在部署階段整合到這隻AI服務中，來確保正式上線所有功能的正常運作。

打造AI服務，台積IT和使用者單位等不同角色展開來回多層次的團隊協作。

在團隊協作分工流程上，

1. 第一步是先進行使用者需求文件製作，由PM先和使用者族群討論需求，也會和內部AI專家討論這些需求，
2. 由這些AI專家組成一個資料科學家團隊來參與概念驗證，利用最少的資源來測試一項技術、想法或解決方案的可行性。
3. 接著展開開發程序後，開發團隊成員，如前後端工程師、UI/UX設計師、SRE人員都會參與，以產品化的角度來打造這一隻AI服務。
4. 然後就進入使用者測試階段（UAT），PM會帶著AI服務的雛形，找來熟悉使用端的領域專家試用，參考他們的回饋意見來微調。
5. 使用者完整確認過系統功能符合需求後，才會進入正式上線階段（Production），這個階段同樣會由資料科學家來確認所打造的AI服務功能符合標準後，就可以宣布正式推出這項AI產品，SRE也會提出配套的服務可靠性機制、備援機制等，再提供給終端使用者運用。

---

5.【台積電IT卓越新戰略5】

       台積IT組織5年三次大調整，要靠平臺工程讓DevOps創新再加速

2025年初，台積IT展開第三次組織調整，一口氣擴編了2個新的處級單位，

負責推動數位轉型和培養數位公民的「數位卓越與創新處」，以及

專責提高開發團隊效率的「平臺工程處」。

台積IT2025組織分工，新設立了

「平臺工程處」（簡稱PLED）和 「數位卓越與創新處」（DEID）。

需要設立服務內部IT的「平臺工程部門」？

因為這是提高DevOps生產力，兼顧合規和資安的關鍵。

DevOps常見的共同挑戰，由平臺工程團隊負責解決。

--------------------------------

(全引用) 資料來源：

1.【台積電IT卓越新戰略1】

台積IT數位轉型下一步，四大原則加速邁向數位卓越

https://www.ithome.com.tw/news/170499

2.【台積電IT卓越新戰略2】

台積IT怎麼用GenAI?生成式AI發展路線圖首度大公開

https://www.ithome.com.tw/news/170501

3.【台積電IT卓越新戰略3】

全球擴廠三大難題，台積IT如何善用GenAI因應的關鍵（超長文)

https://www.ithome.com.tw/news/170256

4.【台積電IT卓越新戰略4】

台積IT打造成功AI服務的實戰心法，從流程、平臺到協作模式大公開

https://www.ithome.com.tw/news/170512

5.【台積電IT卓越新戰略5】

積IT組織5年三次大調整，要靠平臺工程讓DevOps創新再加速

https://www.ithome.com.tw/news/170257