• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    迪恩网络公众号

風險與機遇:如何合理應用“生成式AI”





研究指公務員群體對“生成式AI”的認知高,但使用率較低。

    必學“生成式AI”



    風險與機遇:如何合理應用“生成式AI”



    “必學生成式AI”上篇介紹了“生成式AI”的概念和發展現況,以及澳門居民現時的認知和使用情況,可見部分澳門居民和企業對AI技術的積極投入,且“生成式AI”未來在多個行業和場景有巨大的應用潛力。然而,隨着AI熱潮蔓延,社會對於數據安全、AI幻覺、就業取代等方面的問題也日益受關注。本篇將探討“生成式AI”的潛在風險和挑戰,以及如何應對,幫助大家更全面了解“生成式AI”這一領域,並學會如何合理合規地使用。

    選用合規AI工具減少應用風險

    “生成式AI”的應用日益普及,已經深刻影響着我們的生活和工作方式,但隨之而來的是對風險和安全性的關注。澳門互聯網研究學會(MAIR)與易研網絡研究實驗室最新發佈的《澳門居民生成式AI使用狀況專題報告二○二四》(以下關於本澳的結果均來自該報告)顯示,使用過“生成式AI”的網民中,四成一表示在使用過程中擔心存在風險(41%),其中兩成最擔憂生成信息的真實性(20%),一成六最擔憂“資料∕隱私安全∕數據洩露”(16%)。這些擔憂不僅存在於個人用戶,企業也對AI的應用風險感到關切。《澳門居民生成式AI使用狀況專題報告二○二四》結合了全球一些機構的相關研究數據,其中根據行業分析公司Gartner的數據顯示,截至二○二三年第四季,“生成式AI”的廣泛可用性已成為企業風險管理人員的最重要關注事項。另外,根據Google、微軟等五家企業聯合委託ISMG(Information Security Media Group)進行的調查指出,高達八成的企業高階主管對“生成式AI”最大的擔憂是“敏感資料外洩”(80%),超過七成擔憂“出現不正確的AI幻覺”(71%)。以上數據顯示,無論是個人還是企業使用者,對生成信息的真實性和數據安全性都持有高度關注。

    “生成式AI”生成內容的真實性和準確度跟它的原理有關,“生成式AI”的運作核心是機器學習。如果數據來源存在偏差或錯誤,系統可能會被這些數據誤導,導致輸出錯誤資訊或執行錯誤操作,從而產生所謂的“AI幻覺”(AI Hallucination),使輸出結果失真。部分AI模型亦可能因訓練數據較老舊,未能提供最新資料,從而導致“生成式AI”生成錯誤的資訊。

    對於“AI幻覺”問題,現有多種創新方法,可以多管齊下應對。包括改進模型的訓練數據,利用大語言模型欠缺的、更適合本土的數據,以提高AI輸出的多樣性和準確性;根據人類反饋進行強化學習(RLHF)的方法,以及檢索增強生成技術(RAG),結合檢索和生成技術,引導AI模型提供更加真實和有效的輸出;使用者可以在使用過程中,不斷優化和改進提示詞設計(prompt design),從而提高AI生成結果的準確性;限制輸入來源及設置輸出約束,從而過濾和阻止不當內容生成;引進人類的判斷,使人工智能(AI)和人類智能(Human Intelligence,HI)相互結合和補充,尤其當產出內容具高風險時,可建立事實查核及驗證生成結果的評估流程;最後,使用者亦需要學會選擇使用合適且合規的AI工具,並在應用“生成式AI”的輸出結果時提高警惕,不盲目接受AI輸出的所有結果,並對其輸出結果進行獨立驗證,從而避免潛在的錯誤結果。

    除了“AI幻覺”問題,“生成式AI”也存在其他風險,如數據洩露、合規性問題(版權問題、法律問題)、價值風險(偏見、歧視性結果)和用戶風險(數據洩露、AI濫用、虛假資訊製作)等,部分AI模型在訓練階段和應用階段亦存在洩露敏感數據的情況,引起公眾的關注。考慮到市場上存在眾多模型及工具,使用者該如何選擇適合自己的模型呢?在這種情況下,選擇合規、符合個人隱私要求和數據安全的工具至關重要,特別是在要求工作嚴謹和保密性高的情況下,更應謹慎選擇“生成式AI”工具。澳門互聯網研究學會團隊部分成員正使用自主研發的AI工具GPTCAT-文稿通進行文稿生成、文稿優化、翻譯等,本文部分內容及資料由其自動生成。

    善用AI避免就業取代

    在全球大幅應用“生成式AI”的浪潮下,越來越多人意識到這是未來的大勢所趨,必須跟上時代的步伐,不斷學習和適應使用。不過,互聯網上一直有意見對“生成式AI”在就業市場的影響表示擔憂。一方面,“生成式AI”確實能夠讓人們更方便快捷地完成工作,提高工作效率。另一方面,“生成式AI”也可能促進崗位智能化升級,導致部分工作崗位被替代,從而改變就業結構。根據諮詢公司益普索的研究,近六成公眾認為AI會改變現有的工作模式,超過三分之一公眾對AI持悲觀態度,認為自己的工作在五年內會被AI取代。二○二四年五月國際貨幣基金組織(IMF)亦指出,全球40%的工作將受到AI衝擊。顯示對AI影響就業的擔憂在全球不同的地方存在。

    在澳門同樣存在“生成式AI”對就業帶來負面影響的擔憂。知道“生成式AI”的澳門網民中,對“生成式AI將減少普通人的就業機會說法”的觀點(0-10分,評6.2分)認同度在中等偏上,且近兩成認為文員∕行政人員是在工作中最容易被“生成式AI”取代(19%),顯示部分澳門網民對“生成式AI”影響就業也存有擔憂。

    不過,社會上亦有說法認為“AI不會取代人類,但使用AI的人會取代不用AI的人”,認為真正取代或影響就業的並不是AI,而是選擇使用或不使用AI。隨着“生成式AI”的應用範圍不斷擴大,對於公眾而言,能否掌握良好的AI應用技能和知識,將成為更深度應用“生成式AI”、影響就業競爭力的一個關鍵。目前澳門的“生成式AI”使用者對使用“生成式AI”的能力自我評分處於中等水平(0-10分,評5.9分),且部分使用者在使用時遇到困難(42%),如生成的內容與預期不符(21%)和不熟悉發問技巧∕提示詞設定(11%)等。此外,企業對“生成式AI”的應用也存在同樣障礙,根據IBM《二○二三全球企業AI科技使用現況》的研究結果,已使用“生成式AI”的企業中,最主要的障礙之一是員工對AI技能與專業知識有限(33%),可見欠缺AI使用技能的情況普遍存在,阻礙了“生成式AI”的進一步應用和發展。

    在此情況下,居民可以透過參與相關的教育和培訓課程來提升對AI技術的了解,學習與應用“生成式AI”的相關技巧和技能,以擴展自身的競爭力,幫助個人適應未來科技發展的趨勢,並進一步了解如何運用AI技術來解決現實生活中的問題,從而提高生活品質和工作效率。

    學生應用熱情高,公務員應用待提升。

    在澳門,“生成式AI”受到各群體的應用,這項革新性技術不僅在工作場景中展現出巨大潛力,更在學習領域引發了廣泛興趣,尤其是學生群體對“生成式AI”的應用表現出強烈興趣。學生群體對“生成式AI”的認知率(74%)和使用率(48%)均高於網民平均(認知率:64%,使用率:27%),且對“生成式AI”幫助學習∕工作的評價較高(0-10分,評7.6分,網民平均為7.0分),對自身的使用能力評估亦較高(0-10分,評6.6分,網民平均為5.9分),相對較少擔憂使用風險(41%擔憂,與網民平均比率持平)。對學生而言,學校和社會需要教導學生如何善用AI提升學習效果,進一步探索這項技術在學術研究和創意項目中的應用,從而激發創新思維和促進學術成就;同時,亦需要引導學生正確負責地運用“生成式AI”,在使用“生成式AI”時遵守倫理標準和誠信原則,並加強對學生的AI安全意識教育,避免可能帶來的風險和問題。

    另一方面,澳門的公務員群體對“生成式AI”的認知高(72%),但使用率相對較低(23%),對“生成式AI”幫助學習∕工作的評價相對較低(0-10分,評6.4分),對自身使用能力評估亦較低(0-10分,評4.3分),且較多擔憂使用時存在風險(66%擔憂)。政府和社會可鼓勵公務員群體參加更多的“生成式AI”培訓,幫助理解技術原理和應用場景,並展示“生成式AI”在提高工作效率和決策質量方面的潛力,提高他們的使用意願,了解如何合規使用,減少對風險的擔憂,從而幫助政府機構提高行政效率,提供更高效的便民服務。

    AI引領智慧未來

    “生成式AI”不僅在各行各業中提供了更有效的解決方案,也改變了人們與科技互動的方式。這種技術的普及使得我們能夠享受到更便利的生活,同時促進了企業的業務發展和創新。隨着全球“生成式AI”的快速發展,澳門也迎來了在這一領域的應用與創新機遇。展望未來,澳門宜持續推動AI普及教育,提高公眾對AI技術的理解和應用能力,促進產業創新與經濟多元化。社會各界也應積極探討AI的應用,尋找更多落地場景,讓AI在提升公共服務效率、城市管理等方面發揮更大作用,實現可持續發展;居民亦需要主動學習AI技能,善用“生成式AI”提升就業競爭力,跟上時代步伐。隨着“生成式AI”的持續發展和廣泛應用,澳門將迎來更多機遇,開啟智慧創新的嶄新時代。    (下)



    澳門互聯網研究學會



    盛綺娜  張榮顯

    李    京  馮斯敏



81

鮮花
3

握手
23

雷人
42

路過
53

雞蛋

該文章已有0人參與評論

請發表評論

全部評論

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

400-123-45678

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:上海市虹口区武进路齐浜大厦456号2幢10楼
电邮:green_ps@ppap.com.cn
移动电话:13301215647

Powered by Discuz! X3.4© 2001-2013 Comsenz Inc.