必學“生成式AI”

    風險與機遇：如何合理應用“生成式AI”

    “必學生成式AI”上篇介紹了“生成式AI”的概念和發展現況，以及澳門居民現時的認知和使用情況，可見部分澳門居民和企業對AI技術的積極投入，且“生成式AI”未來在多個行業和場景有巨大的應用潛力。然而，隨着AI熱潮蔓延，社會對於數據安全、AI幻覺、就業取代等方面的問題也日益受關注。本篇將探討“生成式AI”的潛在風險和挑戰，以及如何應對，幫助大家更全面了解“生成式AI”這一領域，並學會如何合理合規地使用。

    選用合規AI工具減少應用風險

    “生成式AI”的應用日益普及，已經深刻影響着我們的生活和工作方式，但隨之而來的是對風險和安全性的關注。澳門互聯網研究學會(MAIR)與易研網絡研究實驗室最新發佈的《澳門居民生成式AI使用狀況專題報告二○二四》（以下關於本澳的結果均來自該報告）顯示，使用過“生成式AI”的網民中，四成一表示在使用過程中擔心存在風險（41%），其中兩成最擔憂生成信息的真實性（20%），一成六最擔憂“資料∕隱私安全∕數據洩露”（16%）。這些擔憂不僅存在於個人用戶，企業也對AI的應用風險感到關切。《澳門居民生成式AI使用狀況專題報告二○二四》結合了全球一些機構的相關研究數據，其中根據行業分析公司Gartner的數據顯示，截至二○二三年第四季，“生成式AI”的廣泛可用性已成為企業風險管理人員的最重要關注事項。另外，根據Google、微軟等五家企業聯合委託ISMG(Information Security Media Group)進行的調查指出，高達八成的企業高階主管對“生成式AI”最大的擔憂是“敏感資料外洩”（80%），超過七成擔憂“出現不正確的AI幻覺”（71%）。以上數據顯示，無論是個人還是企業使用者，對生成信息的真實性和數據安全性都持有高度關注。

    “生成式AI”生成內容的真實性和準確度跟它的原理有關，“生成式AI”的運作核心是機器學習。如果數據來源存在偏差或錯誤，系統可能會被這些數據誤導，導致輸出錯誤資訊或執行錯誤操作，從而產生所謂的“AI幻覺”(AI Hallucination)，使輸出結果失真。部分AI模型亦可能因訓練數據較老舊，未能提供最新資料，從而導致“生成式AI”生成錯誤的資訊。

    對於“AI幻覺”問題，現有多種創新方法，可以多管齊下應對。包括改進模型的訓練數據，利用大語言模型欠缺的、更適合本土的數據，以提高AI輸出的多樣性和準確性；根據人類反饋進行強化學習(RLHF)的方法，以及檢索增強生成技術(RAG)，結合檢索和生成技術，引導AI模型提供更加真實和有效的輸出；使用者可以在使用過程中，不斷優化和改進提示詞設計(prompt design)，從而提高AI生成結果的準確性；限制輸入來源及設置輸出約束，從而過濾和阻止不當內容生成；引進人類的判斷，使人工智能(AI)和人類智能(Human Intelligence,HI)相互結合和補充，尤其當產出內容具高風險時，可建立事實查核及驗證生成結果的評估流程；最後，使用者亦需要學會選擇使用合適且合規的AI工具，並在應用“生成式AI”的輸出結果時提高警惕，不盲目接受AI輸出的所有結果，並對其輸出結果進行獨立驗證，從而避免潛在的錯誤結果。

    除了“AI幻覺”問題，“生成式AI”也存在其他風險，如數據洩露、合規性問題（版權問題、法律問題）、價值風險（偏見、歧視性結果）和用戶風險（數據洩露、AI濫用、虛假資訊製作）等，部分AI模型在訓練階段和應用階段亦存在洩露敏感數據的情況，引起公眾的關注。考慮到市場上存在眾多模型及工具，使用者該如何選擇適合自己的模型呢？在這種情況下，選擇合規、符合個人隱私要求和數據安全的工具至關重要，特別是在要求工作嚴謹和保密性高的情況下，更應謹慎選擇“生成式AI”工具。澳門互聯網研究學會團隊部分成員正使用自主研發的AI工具GPTCAT-文稿通進行文稿生成、文稿優化、翻譯等，本文部分內容及資料由其自動生成。

    善用AI避免就業取代

    在全球大幅應用“生成式AI”的浪潮下，越來越多人意識到這是未來的大勢所趨，必須跟上時代的步伐，不斷學習和適應使用。不過，互聯網上一直有意見對“生成式AI”在就業市場的影響表示擔憂。一方面，“生成式AI”確實能夠讓人們更方便快捷地完成工作，提高工作效率。另一方面，“生成式AI”也可能促進崗位智能化升級，導致部分工作崗位被替代，從而改變就業結構。根據諮詢公司益普索的研究，近六成公眾認為AI會改變現有的工作模式，超過三分之一公眾對AI持悲觀態度，認為自己的工作在五年內會被AI取代。二○二四年五月國際貨幣基金組織(IMF)亦指出，全球40%的工作將受到AI衝擊。顯示對AI影響就業的擔憂在全球不同的地方存在。

    在澳門同樣存在“生成式AI”對就業帶來負面影響的擔憂。知道“生成式AI”的澳門網民中，對“生成式AI將減少普通人的就業機會說法”的觀點（0-10分，評6.2分）認同度在中等偏上，且近兩成認為文員∕行政人員是在工作中最容易被“生成式AI”取代（19%），顯示部分澳門網民對“生成式AI”影響就業也存有擔憂。

    不過，社會上亦有說法認為“AI不會取代人類，但使用AI的人會取代不用AI的人”，認為真正取代或影響就業的並不是AI，而是選擇使用或不使用AI。隨着“生成式AI”的應用範圍不斷擴大，對於公眾而言，能否掌握良好的AI應用技能和知識，將成為更深度應用“生成式AI”、影響就業競爭力的一個關鍵。目前澳門的“生成式AI”使用者對使用“生成式AI”的能力自我評分處於中等水平（0-10分，評5.9分），且部分使用者在使用時遇到困難（42%），如生成的內容與預期不符（21%）和不熟悉發問技巧∕提示詞設定（11%）等。此外，企業對“生成式AI”的應用也存在同樣障礙，根據IBM《二○二三全球企業AI科技使用現況》的研究結果，已使用“生成式AI”的企業中，最主要的障礙之一是員工對AI技能與專業知識有限（33%），可見欠缺AI使用技能的情況普遍存在，阻礙了“生成式AI”的進一步應用和發展。

    在此情況下，居民可以透過參與相關的教育和培訓課程來提升對AI技術的了解，學習與應用“生成式AI”的相關技巧和技能，以擴展自身的競爭力，幫助個人適應未來科技發展的趨勢，並進一步了解如何運用AI技術來解決現實生活中的問題，從而提高生活品質和工作效率。

    學生應用熱情高，公務員應用待提升。

    在澳門，“生成式AI”受到各群體的應用，這項革新性技術不僅在工作場景中展現出巨大潛力，更在學習領域引發了廣泛興趣，尤其是學生群體對“生成式AI”的應用表現出強烈興趣。學生群體對“生成式AI”的認知率（74%）和使用率（48%）均高於網民平均（認知率：64%，使用率：27%），且對“生成式AI”幫助學習∕工作的評價較高（0-10分，評7.6分，網民平均為7.0分），對自身的使用能力評估亦較高（0-10分，評6.6分，網民平均為5.9分），相對較少擔憂使用風險（41%擔憂，與網民平均比率持平）。對學生而言，學校和社會需要教導學生如何善用AI提升學習效果，進一步探索這項技術在學術研究和創意項目中的應用，從而激發創新思維和促進學術成就；同時，亦需要引導學生正確負責地運用“生成式AI”，在使用“生成式AI”時遵守倫理標準和誠信原則，並加強對學生的AI安全意識教育，避免可能帶來的風險和問題。

    另一方面，澳門的公務員群體對“生成式AI”的認知高（72%），但使用率相對較低（23%），對“生成式AI”幫助學習∕工作的評價相對較低（0-10分，評6.4分），對自身使用能力評估亦較低（0-10分，評4.3分），且較多擔憂使用時存在風險（66%擔憂）。政府和社會可鼓勵公務員群體參加更多的“生成式AI”培訓，幫助理解技術原理和應用場景，並展示“生成式AI”在提高工作效率和決策質量方面的潛力，提高他們的使用意願，了解如何合規使用，減少對風險的擔憂，從而幫助政府機構提高行政效率，提供更高效的便民服務。

    AI引領智慧未來

    “生成式AI”不僅在各行各業中提供了更有效的解決方案，也改變了人們與科技互動的方式。這種技術的普及使得我們能夠享受到更便利的生活，同時促進了企業的業務發展和創新。隨着全球“生成式AI”的快速發展，澳門也迎來了在這一領域的應用與創新機遇。展望未來，澳門宜持續推動AI普及教育，提高公眾對AI技術的理解和應用能力，促進產業創新與經濟多元化。社會各界也應積極探討AI的應用，尋找更多落地場景，讓AI在提升公共服務效率、城市管理等方面發揮更大作用，實現可持續發展；居民亦需要主動學習AI技能，善用“生成式AI”提升就業競爭力，跟上時代步伐。隨着“生成式AI”的持續發展和廣泛應用，澳門將迎來更多機遇，開啟智慧創新的嶄新時代。    （下）

    澳門互聯網研究學會

    盛綺娜  張榮顯

    李    京  馮斯敏