科技發展觀測平台

焦點主題
生成式AI之應用趨勢與
FLI因應人工智慧風險之政策建議

2023/07/05
 生成式AI之應用趨勢

 隨著科技的發展，AI人工智慧和深度類神經網路(Deep Neural Network , DNN)技術的應用越來越普遍，它們

可協助人類完成瑣碎的工作和雜務、節省時間，讓人類更致力於創造力和想像力的工作任務。

 生成式AI是一種強大的技術，它可以從限定的輸入模式生成全新或類似的媒體內容，在訓練階段，生成式
AI模型會對資料的獨特性和重要性進行解釋和判斷，因此，這些模型的結果不受人類經驗、偏見及心理影
響，但生成式AI也只能在訓練資料設定的範圍內，創造更好的作品，無法憑空生成新的文件或圖片。

資料來源：McKinsey & Company ，科技發展觀測平台整理

引用請標註來源：STPI，科技發展觀測平台，https://outlook.stpi.narl.org.tw/index/focus-news?id=4b11410088212dac0188748d1c2f44a7 2
 生成式AI之應用趨勢 (續)

生成式AI之應用模式

 下圖簡介生成式AI於不同領域之應用模式：

內容寫作 文本到語音生成
聊天機器人/助理
文本 語音 語音創作
檢索 音頻編輯
分析與合成

程式碼生成 3D物件生成
程式碼 函數原型應用與程式設計 3D設計 產品設計與產品探索
數據集生成

動態影像創作
動態影像編輯
圖像
圖像素材生成器 動態影像 語音翻譯與校正
圖片編輯器
換臉與校正

資料來源：McKinsey & Company ，科技發展觀測平台整理

引用請標註來源：STPI，科技發展觀測平台，https://outlook.stpi.narl.org.tw/index/focus-news?id=4b11410088212dac0188748d1c2f44a7 3
 生成式AI之應用趨勢 (續)

生成式AI廠商及其AI模型

 下表為生成式AI之代表性廠商及AI模型：
文本 圖像 語音/音樂 3D設計 動態影像 蛋白質/DNA構造

RODIND
VALLE GODIVA MoLeR
微軟 Microsoft Diffusion

OpenAI GPT4 DALL-E2 Jukebox Point-E

Meta LLaMA Make-a-scene AudioGen Builder Bot Make-a-video ESMFold

Google/DeepMind LaMDA Imagen MusicLM DreamFusion Imagen Video AlphaFold

Stability AI StableLM Stable Diffusion 2 Dance Diffusion LibreFold

亞馬遜 Amazon Lex DeepComposer

蘋果 Apple GAUDI

輝達 NVIDIA MT-NLG Edify Edify Edify MegaMolBART

關閉原始碼(Closed Source)
關閉原始碼，可透過API訪問 (Closed Source, available through APIs)
開放原始碼(Open Source)

資料來源：McKinsey & Company ，科技發展觀測平台整理

引用請標註來源：STPI，科技發展觀測平台，https://outlook.stpi.narl.org.tw/index/focus-news?id=4b11410088212dac0188748d1c2f44a7 4
 生成式AI之應用趨勢 (續)

常用技術

生成對抗網路 (Generative Adversarial Networks, GAN)

GAN 是由兩個神經網路組成的模型，一個生成器和一個鑑別器，生成器也稱為生成網路，是負責產生與原始
11 資料類似的新資料或內容之神經網路，鑑別器也稱為鑑別網路，是區分原始資料和生成資料之神經網路，透過
模型的反覆訓練，提高性能，用於生成圖像、音頻、文本各種類型的資料。

Transformer 模型
Transformer模型主要功效為分析具有順序結構的資料，像是句子的單詞順序，現在該技術已經成為自然語言
12 建模的標準工具，能夠處理輸入序列到序列 (Sequence-to-Sequence)任務，並且計算該序列的表徵
(Representation)，提供自然語言翻譯、語音辨識的功能。

自回歸卷積神經網路 (AR- CNNs)

AR-CNNs (Autoregressive Convolutional Neural Networks) 是依據先前觀察到的序列結果來預測序列的未
13 來結果，用來探索時變系統(Time Variant System)，並認為特定資料的概似性 (Likelihood)，以建立可靠的新
資料。AR-CNNs 還可以透過自回歸(Autoregressive)機制來生成高品質的資料。

貝氏網路 (Bayesian Network)

14 貝氏網路是一種生成機率圖形模型，可以有效的表示一組隨機變數的聯合機率分配 (Joint Probability

Distribution)，應用於時間序列預測、異常檢測、推論等各種模式。

資料來源：LTIMindtree，科技發展觀測平台整理
引用請標註來源：STPI，科技發展觀測平台，https://outlook.stpi.narl.org.tw/index/focus-news?id=4b11410088212dac0188748d1c2f44a7 5
 生成式AI之應用趨勢 (續)

常用技術 (續)

高斯混合模型 (Gaussian Mixture Model, GMM)

15 GMM是一種高斯分布的生成機率模型，能夠對資料點在特徵空間中的密度進行聚類分析 (Cluster Analysis)，
常用於生物辨識系統的特徵機率分配之參數模型，像是語音辨識系統的各聲道訊號頻譜分量。

隱馬爾可夫模型 (Hidden Markov Model, HMM)

HMM是一種統計模型，可描述內部因素的可觀察事件演變 (內部因素是指影響觀察序列的隱藏狀態，這些狀
16 態是不可直接觀察到的，只能透過觀察序列而間接推斷得到)。該模型可以對相鄰符號、域或事件之間的相關
性進行建模。HMM已廣泛應用於各個領域，尤其是在語音辨識和數位通訊等各種應用模式。

隱含狄利克雷分布(Latent Dirichlet Allocation, LDA)

17
LDA 是一種生成機率模型，具有離散資料的集合，例如文字語料庫 (Text corpus)，這個模型適用於協同過濾
(Collaborative Filtering)和以圖片內容進行檢索。

變分自編碼器 (Variational Autoencoders, VAEs)

VAEs是一種無監管學習方法，也是目前最流行的複雜分布建模方法之一，其建立在標準函數逼近器之上，標
8
1 準函數逼近器是神經網路，可以用隨機梯度下降法 (Stochastic gradient descent, SGD)進行訓練，可以用於
手寫數字、人臉、CIFAR圖片資料集、以靜態圖像預測未來圖像等各種應用模式。

資料來源：LTIMindtree，科技發展觀測平台整理
引用請標註來源：STPI，科技發展觀測平台，https://outlook.stpi.narl.org.tw/index/focus-news?id=4b11410088212dac0188748d1c2f44a7 6
 生成式AI之應用趨勢 (續)

生成式AI之應用領域

醫療保健 基礎科學 資訊科技

生成式AI可藉由模型生成的「合成資 生成式AI將在科學界發揮重要作用。例如藥物 生成式AI之應用包含軟體開發、

料(Synthetic Data)」來增強真實訓 研發方面，可協助生成新型蛋白質模型；量子 資料合成與擴增。技術人員可
練資料，以提高醫生診斷準確性，或 領域方面，可促進材料科學和量子化學的發展； 以透過生成AI編寫軟體程式碼，
協助醫生更瞭解病人情況、檢測及治 另可應用於大規模流體力學模擬，以瞭解氣候 協助軟體產品開發，也可以用
療罕見疾病、提高臨床試驗效率，加 變遷及其影響；日後有望將AI與神經科學結合， 於擴增資料，提高資料品質，
快新藥物和診斷方法之研發速度等。 進一步探索物理世界對心智的影響。 並用於測試新的機器學習演算
法或深度學習架構。

教育 媒體娛樂 零售和電子商務 藝術人文與社會科學

將大型語言模型應用於 生成式AI可應用於電影修 生成式AI可協助業者評估 生成式AI實現了各種藝術人

教育領域，學生可以自 復、動畫模型生成以及音 消費者的文字訊息、音訊 文形式，例如可在幾秒內生
訂進度進行學習，探索 訊合成等。利用AI演算法 樣本及面部表情，從而了 成視覺化圖表。生成式語言
其感興趣的話題，突破 可在電腦遊戲中建立3D模 解客戶對產品的態度，還 模型能夠幫助文案撰寫人員
傳統課程的學科界限。 型；或在電影及遊戲場景 能瞭解線上消費者的使用 創造更好的措辭和短文。然
然而，也可能會對學生 中創建人聲效果、環境音 者體驗狀況，藉以評估廣 而，創意歸屬、真實性、版
的表現產生負面影響， 效，或是幫助創作影片的 告、營銷活動的效果。 權問題也伴隨而來。
削弱他們的創造力。 配音、音訊剪輯和旁白等。

資料來源：Stanford Institute for Human-Centered Artificial Intelligence；LTIMindtree ，科技發展觀測平台整理

引用請標註來源：STPI，科技發展觀測平台，https://outlook.stpi.narl.org.tw/index/focus-news?id=4b11410088212dac0188748d1c2f44a7 7
 FLI 因應人工智慧風險之政策建議

 現在，不少知名人工智慧研究者指出，若再不細思我們眼前
人工智慧的發展，恐怕將面臨不少風險。

 人工智慧已可創造出以假亂真的錯誤資訊，進而忽略人權、
人身安全甚至是人類生存的價值，從而造成難以想像的災害。
例如：邊緣化弱勢族群和多元觀點、破壞勞動市場和政治性
組織的穩定性，導致權力集中至少數商業組織等。

 另一方面，由於目前人工智慧的發展乃以商業競爭為主體，
較難顧及公共利益或社會價值等層面，因此政策的介入與監
督是必要的。然而社會仍需一段完整的時間，以對科技帶來
的影響有全面性的了解，並建立完善的法律制度。

 因此，Future of Life Institute (生命未來研究所，下稱FLI) 呼

籲，我們應放緩人工智慧發展的腳步，花費至少六個月時間，
仔細評估人工智慧可能帶來的風險、訂定應對措施。

資料來源：Future of Life Institute，科技發展觀測平台整理

引用請標註來源：STPI，科技發展觀測平台，https://outlook.stpi.narl.org.tw/index/focus-news?id=4b11410088c8c05901890b098668731e 8
 FLI因應人工智慧風險之政策建議(續)

FLI人工智慧發展之七項政策建議

藉由管制關鍵硬體元件之取得、 釐清責任歸屬，督促人 增加人工智慧安全研究

掌握產業鏈上下游供應商現況， 工智慧開發者降低風險， 的公共預算
控管大型人工智慧模型的開發 並完備究責規範

管控 增加人工智慧
高速運算 建立責任歸屬
安全研究
與究責框架
硬體資源 的資金投入
授權第三方 建立國家層級 建立模型之 人工智慧生成
進行人工智慧 人工智慧 風險預防 內容的識別
的審核與認證 管理單位 與追蹤措施 與管理標準

人工智慧系統必須通過審核 使用浮水印技術以便可進行 確保使用者可輕易分辨

才能上市或投入使用，並且 追蹤與取締非法使用者 取得的內容為合成產物
建立人工智慧之管理規則與管轄
此審核應由第三方組織進行， 或真實來源；利用人工
單位；授權利害相關人進行影響
以避開利益衝突 智慧進行互動服務時應
評估；建立執法機構來應對風險、
明確告知使用者；確認
預防人工智慧的濫用；公開發布
人工智慧善盡「忠誠義
人工智慧評估報告
務」以及「注意義務」

資料來源：Future of Life Institute，科技發展觀測平台整理

引用請標註來源：STPI，科技發展觀測平台，https://outlook.stpi.narl.org.tw/index/focus-news?id=4b11410088c8c05901890b098668731e 9
 結語

 資料安全性與結果準確性是生成式AI目前最大的挑戰：

 在資料安全方面，若缺乏用於資料監管之相對應參數，可能會引發資料安全和隱私問題，在醫療
保健、國防產業更需要審慎使用該技術；在結果準確性方面，使用生成式AI的過程，若演算法和
模型處理不當，可能會產生錯誤或出乎意料的結果，導致結果的準確度偏差。

 因此未來生成式AI的發展，其演算法和模型仍需持續升級，以因應不斷變化的應用模式和需求，
並且在法律政策的監管下實行，減少文化和社會影響，保障公眾利益和個人權益。

 FLI 認為運用政治政策工具來暫停人工智慧的發展是必須的。雖然提出的七項建議難以在短時間
內實現，至少會讓決策者有更多的時間來建構更完善的人工智慧管理制度。

資料來源： Stanford Institute for Human-Centered Artificial Intelligence；Future of Life Institute，科技發展觀測平台整理

引用請標註來源：STPI，科技發展觀測平台，https://outlook.stpi.narl.org.tw/index/focus-news?id=4b11410088c8c05901890b098668731e 10
 科技發展觀測平台

To Gain An Accurate and Deep Understanding of STI Trend

指導單位：國家科學及技術委員會
執行單位：財團法人國家實驗研究院科技政策研究與資訊中心
「科技發展觀測平台」為執行國科會「科技發展觀測平台建置及服務計畫」之成果 11