文：任苙萍 Anita Ren
你今天 AI 了嗎？幾乎成了新一代的生活日常。生成式 AI （Gen AI）瘋狗浪般的發展，導致各式圖文玩法全面蔓延創意領域，透過上傳個人圖像到 OpenAI的 ChatGPT 或微軟的 Copilot 等平台來創建「吉卜力」等個人化的趣味性卡通人物就是一例。
創建這些數位娃娃的技術基礎是大型語言模型（LLM）的圖像生成能力，雖然 AI可以簡化內容創作，但也可能加速觀眾的喜新厭舊週期。
再者，這種遊戲式的模仿風格已被認定不涉及侵權，但同樣以 Gen AI 驅動的 AI 芭比娃娃，依舊引發道德、能源消耗、永續性和版權問題的質疑。例如，需要詳細的使用者說明，並且經常會出現年齡、眼睛顏色和比例的錯誤陳述。
生成式 AI 所帶來的挑戰與隱患
有越來越多的學術與產業界先進，不約而同發出「自省」聲音。倫敦瑪麗皇后大學的吉娜·內夫教授在接受 BBC 採訪時提出警示：ChatGPT 一年所消耗的能源，比 117 個國家還多。這種無謂的過度能源使用凸顯了資料中心所需能源的永續性挑戰，對人類的隱私、文化和地球構成三重威脅。
Corpora.ai 執行長兼創辦人 Mel Morris 亦指出，LinkedIn 動作人物現象等趨勢對 GPU 的需求不可持續，並強調了與這些工具相關的碳足跡，隨意使用 AI 技術將導致財務和環境成本問題。
AI 產生的圖像自然也引發了智慧財產權爭議，因為用於訓練這些系統的資料集可能包含受版權保護的資料。顯然，如今這股 AI 濫用風潮顯然已對隱私、文化和環境永續性構成了廣泛的威脅！
AI 是助手，不該為人類作主！
從使用演算法閱讀、觀察和監控消費者行為，到天馬行空的創意、文案和自動化行銷活動，AI 在預測趨勢、客製化方案以及與受眾溝通上，影響力漸增，而自然語言處理（NLP）是當中一項重要能力。
不過，接地氣的創造力、同理心和策略思維等非制式模型，現階段仍很難傳授給機器。時下流行的生成式 AI 頂多只能提供重複、現成的副本，尚且無法連結人類情感、也不理解情緒，更不能針對特定客戶群做客製化行銷。
最關鍵的是：經營者無從獲知與競爭對手的強弱關係以進行最佳市場定位。想要打造有溫度、務實且具意義的企劃，人腦決策加上善用關鍵字搜尋引擎優化（SEO），仍是目前最直效的行銷方案。
可預見的未來，人機協作仍是終端應用最可能的場景。將生成式 AI 用於創作，小玩怡情，卻要提防依賴上癮，進而削弱人類的溝通本能！
對於生成式 AI 的省思
事實上，生成式 AI 可以被導向到氣候建模和醫學研究等更有影響力的應用，這也是強 AI vs. 弱 AI 的關鍵爭論點之一。台灣也有 AI 專家憂心忡忡地直言，我們 AI 人才素質無法提升的主要原因之一正是：大家過於將精力放在指令（Prompt）的訓練上，而忽略了背後更深層的意義。
AI 所催生的新奇事物興奮感是有時效性的，而且可能與責任和可持續的技術進步的長期願景不一致。更值得正視的是：生成式 AI 可能被有心人用於捏造詐欺事物而為現實社會製造混亂。
已經有不少先知開始省思：可愛、有趣的結果真的值得嗎？並真心提出呼籲：如果我們真要正確使用 AI，就必須認真地設置如何使用它的護欄。與其追逐這種一時風起，不如致力於更有價值的事業。例如，用於預測天災預測。
除了憑空捏造，生成式 AI 更有價值的預測應用
或許你會好奇：為何會將生成式 AI 用在預測？有專家認為：它是處理大數據的利器，有助於檢索隱藏的趨勢、模式和異常值，幫助預測結果、進而做出決策；而且它的自動化功能可以減少人工作業時間並減少錯誤，簡化工作流程以提高效率。
對照早期的「預測式 AI」，是使用機器學習演算法，根據歷史資料模式預測未來結果，目的是分析大量資料集以識別相關性和趨勢，進而預測未來的事件、行為或條件，透過不斷完善使用新的數據模型來提高準確性，常用於市場銷售、財務金融、醫療診斷及氣象預測，關鍵在於：必須收集大量歷史資料集，且經過所謂的資料清洗，過濾掉極端異常的數據，並鑑別影響結果的相關變數。
生成式和預測式 AI 相似的地方是：1.都使用機器學習技術來處理和分析資料；2.都依靠大型資料集來理解模式並產生輸出或進行預測；3.兩者都涉及使用歷史資料來訓練模型以提高準確性和有效性。不過，它們分別也有其局限性。
生成式與預測式 AI 存在互補關係
簡言之，生成式 AI 模型是在大量文字、圖像或程式碼資料集上進行訓練，當輸入這些資料時，它們會發現其隱藏的模式和關係，包括理解單字在語句中的流動、物體在圖片中的排列或音樂旋律的進展；一旦掌握這些模式，就能預測序列接下來會發生什麼，例如，故事中的下一個單字或繪畫中的下一個筆觸，進而創造新內容。
以生成式 AI 來說，可能存在輸出結果缺乏一致性或連貫性的問題，還可能產生誤導性或有害內容，以及運算能力和數據等資源過度集中的道德爭議。預測式 AI 的準確性很大程度上取決於輸入資料的品質和相關性，還要考慮｢過度擬合｣現象——也就是模型可能需要針對新的、未見過的資料進行改進；而且同樣面臨倫理風險，例如，因為邊緣群體的偏見決策所造成的風險。此外，AI 的黑盒子特性，會使理解預測變得具有挑戰性。
實務上，生成式與預測式 AI 存在互補關係，生成式增強了內容生成方面的創造力和創新，預測式則透過數據驅動的洞察和預測，協助決策，且預測式 AI 可透過使用產生的數據來擴充現有數據集，進而利用｢生成模型｣來提高準確性。輝達（NVIDIA）去年新推出的氣象預測模組，就是此類代表作。
下一站：代理式 AI
在昨天的「台灣資安大會」上，趨勢科技就提出警訊：AI 技術是把雙面刃，生成式AI對資安產業的影響加大，網路犯罪組織透過科技編寫惡意軟體，快速演變威脅手法。
當前的網路犯罪態勢從「網路犯罪即服務」（Cybercrime as a Service）演進到以AI代理為基礎的「網路犯罪即代理」（Cybercrime as a Servant），未來將出現全新的犯罪商業模式。儘管 AI 技術尚未能完全自動生成惡意軟體，但深偽（DeepFake）技術的普及已讓犯罪分子能輕易利用低價或免費的服務來實施詐騙。
依賴AI的網路犯罪越多，傳統資安防禦已難以抵禦；而企業導入 AI，也須格外留意資料與模型安全，有必要採取主動式防禦、借助全面提升可視性且能統一管理的資安工具提前預測駭客的潛在攻擊路徑，防患於未然。