2018高清国产一区二区三区-国产黄色视频免费在线观看-欧美激情欧美精品一区二区-免费国产一级片内射老妇

大模型的安全問(wen)題正在(zai)悄悄逼(bi)近。

就在全球都在因大(da)模(mo)(mo)型而狂歡時，大(da)模(mo)(mo)型的安全問題也隨(sui)之來臨。

不(bu)過(guo)，科(ke)技發展向來是一個不(bu)可逆的過(guo)程(cheng)。

即便在GPT-4發布(bu)(bu)后不久，就有(you)(you)(you)上千位科(ke)學家(jia)、科(ke)技大佬(lao)在去年3月簽署了(le)警惕(ti)AI發展(zhan)的(de)公開(kai)(kai)信，之后又有(you)(you)(you)OpenAI、DeepMind、Anthropic三大大模型團(tuan)隊掌門(men)人聯(lian)合300多位科(ke)學家(jia)再度署名(ming)發布(bu)(bu)警惕(ti)AI發展(zhan)的(de)公開(kai)(kai)信，但這(zhe)并沒(mei)有(you)(you)(you)改變AI大勢(shi)。

2023年全球(qiu)科(ke)技(ji)領域的關(guan)鍵詞是“百模(mo)大戰”，2024年這一關(guan)鍵詞已(yi)經是“大模(mo)型(xing)降價”。

前者揭(jie)示了關于(yu)大(da)(da)模(mo)型的技術競爭(zheng)水(shui)深火熱，后者則預示著大(da)(da)模(mo)型產業(ye)落地已經(jing)正(zheng)式啟航。

然而，就在科技巨(ju)頭大(da)模(mo)型產品發布最集中(zhong)、連在大(da)模(mo)型領(ling)域研究略顯滯后(hou)的蘋(pin)果也上車了大(da)模(mo)型的這個(ge)月里，大(da)模(mo)型奔向市場時的安全問(wen)題悄(qiao)然顯現。

01

微軟“延畢”AI核心功能

還記得在(zai)前(qian)不久的微軟Build大會上，微軟用來硬剛蘋果(guo)Mac的“Copilot+PC”嗎？

當時(shi)在(zai)發布會上(shang)關于人工智能(neng)最(zui)亮眼(yan)的一(yi)項功能(neng)是一(yi)個名為“Recall”的，查找(zhao)你之前在(zai)電腦上(shang)的任意(yi)操作的功能(neng)。

Recall的(de)(de)工作原理是，在用(yong)戶授(shou)權后，PC通過本(ben)地的(de)(de)端側大(da)模(mo)型以快照形式記憶用(yong)戶每天(tian)電腦的(de)(de)使用(yong)情況(kuang)，并(bing)在你想要(yao)回溯的(de)(de)時(shi)候，通過滾動時(shi)間(jian)軸找(zhao)到(dao)當時(shi)的(de)(de)操作頁面。

有(you)點(dian)類似辦公(gong)軟(ruan)件(jian)中的(de)歷(li)史版本回(hui)溯(su)功能，不同之處在于(yu)，基于(yu)大模型，現(xian)在你(ni)可以對(dui)任意軟(ruan)件(jian)、任意時(shi)間點(dian)進(jin)行快(kuai)速回(hui)溯(su)。

從后來微(wei)軟官方(fang)博客中公布和外媒(mei)曝出的(de)消(xiao)息來看(kan)，微(wei)軟這一(yi)功能(neng)此前是(shi)在內部秘密研(yan)發，正(zheng)式發布時(shi)甚至只在微(wei)軟內部進(jin)行了測(ce)(ce)試(shi)，沒有在Windows Insider進(jin)行公測(ce)(ce)。

Windows Insider計劃(hua)(hua)(hua)是(shi)微(wei)軟2014年10月(yue)為Windows 10推出的一(yi)個公測計劃(hua)(hua)(hua)，這(zhe)一(yi)計劃(hua)(hua)(hua)一(yi)直被微(wei)軟沿用(yong)至今，發展成了微(wei)軟Windows系統功能(neng)更新(xin)的一(yi)個公測社區。

或許是AI PC勢頭太(tai)猛，微(wei)(wei)軟(ruan)有些(xie)著急，本該(gai)先在(zai)Windows Insider公測(ce)的Recall功能，在(zai)今年(nian)的Build大會上直接被微(wei)(wei)軟(ruan)拿(na)來做壓軸功能，甚至官宣了要在(zai)6月18日隨“Copilot+PC”一并上線。

微軟(ruan)Build大會(hui)舉辦于(yu)今(jin)年(nian)5月(yue)，意外發生(sheng)在6月(yue)13日。

這一天，美國(guo)眾(zhong)議院國(guo)土安全(quan)委員會(hui)召(zhao)開(kai)了(le)一場關于網絡安全(quan)的聽證會(hui)，微(wei)軟(ruan)是出席單位之一，微(wei)軟(ruan)總裁Brad Smith稱，“微(wei)軟(ruan)安全(quan)未來計劃（SFI）是比公司在人(ren)工智能布局更重要的工作。”

值得注意(yi)的是(shi)，微(wei)軟SFI計劃的提出是(shi)在2023年11月，而Recall立項是(shi)在微(wei)軟安全改革計劃SFI提出之前，這(zhe)就讓Recall陰差陽(yang)錯地跳(tiao)過了SFI，秘(mi)密研(yan)發了下去，直到最終發布。

不過，人工智(zhi)能(neng)的(de)安全問題早(zao)在(zai)(zai)2023年年初就已經在(zai)(zai)硅谷得到了(le)重視，甚至已經上升為一個重要的(de)社會議題，Recall功能(neng)在(zai)(zai)官宣發布(bu)后，外媒(mei)關于(yu)Recall帶來的(de)隱私安全問題進行了(le)頗多質疑(yi)。

這就(jiu)有了微軟6月(yue)13日(ri)在官方博客上表示，Recall將不會(hui)隨“Copilot+PC”在6月(yue)18日(ri)上線(xian)，而(er)是先進(jin)入到Windows Insider公(gong)測階(jie)段。

微軟推遲Recall正式上(shang)(shang)線，嚴格(ge)意義上(shang)(shang)來說(shuo)，算是微軟一(yi)次(ci)在(zai)(zai)功能(neng)上(shang)(shang)線前的(de)緊急叫停，而接下的(de)公測，一(yi)方面(mian)可(ke)以讓微軟看(kan)到這(zhe)一(yi)功能(neng)是否存(cun)在(zai)(zai)安全漏洞(dong)，另一(yi)方面(mian)也可(ke)以通過(guo)公測看(kan)到社會層面(mian)對于這(zhe)一(yi)功能(neng)的(de)真(zhen)實反饋。

要(yao)知道，在Recall出(chu)現之(zhi)前(qian)，AI PC稱得上(shang)“大(da)模型”的(de)功(gong)能(neng)還是智能(neng)語(yu)音、協同辦(ban)公，以(yi)及系(xi)統(tong)層面(mian)的(de)改善(shan)，沒有一個(ge)拿得出(chu)手、顛覆用(yong)戶(hu)觀感的(de)新功(gong)能(neng)。

美國社(she)會和政府層面(mian)給微(wei)軟(ruan)的壓力(li)(li)，讓微(wei)軟(ruan)對這一功能的隱私安全(quan)問(wen)題再次有了擔憂，“延畢”Recall，成(cheng)了緩解壓力(li)(li)的一個折中的手段。

02

蘋果AI不敢進歐盟

同(tong)樣遭受到質疑的，還有美國另一家科技(ji)巨頭，蘋果。

蘋果原本在大(da)模型的(de)(de)領域(yu)研發上并(bing)不(bu)激進，甚(shen)至略顯滯后，在今年WWDC 2024上官宣啟用(yong)大(da)模型，搞出一(yi)個(ge)Apple Intelligence時，還是(shi)借了OpenAI的(de)(de)助力。

與微軟類(lei)似的是(shi)，蘋(pin)果也是(shi)在大模型上線之前，官宣拿到緊急撤退自查。

就在蘋果對(dui)外(wai)發布iOS 18及Apple Intelligence后不久，有消息(xi)傳(chuan)出，Apple Intelligence今年(nian)或(huo)將不會在歐盟地(di)區上線(xian)。

隨后，蘋(pin)果(guo)證(zheng)實(shi)了這一消(xiao)息，并稱，之(zhi)所以(yi)如此，是因為對(dui)歐盟DMA要求蘋(pin)果(guo)允(yun)許(xu)第三方(fang)公司與(yu)其服(fu)務可以(yi)進行互(hu)(hu)聯(lian)互(hu)(hu)通、互(hu)(hu)操作(zuo)的(de)擔憂。

這就意味著，要想(xiang)進入歐(ou)盟，蘋(pin)果就無(wu)法完(wan)全將Apple Intelligence的隱私安全性掌(zhang)握在自(zi)己的手(shou)中(zhong)，這是蘋(pin)果所不能容忍的。

這里值(zhi)得一提(ti)的是(shi)歐盟的DMA。

DMA，即《數(shu)字(zi)市場法案(an)》，是(shi)歐盟(meng)在2024年3月7日正式落(luo)地生效的、用(yong)于狙擊科技巨頭壟斷(duan)問題(ti)的一(yi)項(xiang)法案(an)。

該(gai)項法(fa)案將蘋(pin)果、谷歌、微軟、亞(ya)馬遜等(deng)一眾科技(ji)巨頭定義為“gatekeeper”，要求這(zhe)些科技(ji)巨頭在(zai)數(shu)據訪問、數(shu)據共享、隱私(si)保(bao)護在(zai)內(nei)的22項核心產(chan)品與服務上進行整改(gai)。

蘋果此前曾允許(xu)將第三方瀏覽(lan)器設置為(wei)默認瀏覽(lan)器，正(zheng)是(shi)為(wei)了應對這一法案做出的調(diao)整。

嚴格(ge)意義上來說，DMA針對的(de)是(shi)科(ke)技巨頭的(de)壟斷問題，但(dan)蘋(pin)(pin)果(guo)一直(zhi)賴以維系的(de)是(shi)閉環(huan)生態為硬件產品帶來的(de)干凈體驗，類(lei)似默認(ren)瀏覽(lan)器(qi)這(zhe)類(lei)權限的(de)逐步(bu)開放，意味著蘋(pin)(pin)果(guo)閉環(huan)生態在歐盟將(jiang)被打開一個缺口。

尤其是今年蘋果將大模型提(ti)上日程，Apple Intelligence進(jin)入落(luo)地階段，在(zai)首限DMA的同時，歐(ou)盟還有著(zhu)全球最嚴格的數據保護條例GDPR。

在此之前(qian)，包括蘋果、谷歌、微軟等一(yi)眾科技巨頭，都曾在歐(ou)盟因數據安(an)全(quan)和隱私問題遭受過數億，乃(nai)至數十(shi)億歐(ou)元的巨額罰款。

就在今(jin)年3月(yue)，谷歌就曾(ceng)在法國因違(wei)規使用當(dang)地新聞和出版機構的數據訓練大模(mo)型，拿到了一張2.5億歐元(yuan)（約19.7億元(yuan)）的罰單。

Apple Intelligence今年不進歐盟，除了受限DMA法案(an)，顯然也有著隱私安全因(yin)素的考量(liang)。

03

高效、安全難兼得

一個全新業(ye)態到來(lai)之時，初期(qi)的野蠻生長(chang)往(wang)往(wang)是(shi)一種(zhong)必然(ran)，大模型當(dang)然(ran)也(ye)不例外。

從以深度學(xue)習(xi)為計算范式(shi)的人(ren)工(gong)(gong)智(zhi)能(neng)，到如(ru)今(jin)以生成(cheng)式(shi)AI、大模型為計算范式(shi)的人(ren)工(gong)(gong)智(zhi)能(neng)，我們看到了人(ren)工(gong)(gong)智(zhi)能(neng)已經是(shi)一個不可逆的趨勢。

然而，隨著大模型進(jin)入產業，尤其(qi)是在進(jin)入消費(fei)(fei)市(shi)場時，面(mian)對數(shu)億十億計、沒有(you)專(zhuan)業的(de)(de)隱私安全(quan)分析能力的(de)(de)普通消費(fei)(fei)者(zhe)(zhe)，如何在標準、規范(fan)，乃至(zhi)政策監管層面(mian)為普通消費(fei)(fei)者(zhe)(zhe)擋去這(zhe)一時代洪(hong)流下的(de)(de)安全(quan)隱患，就成了一個(ge)最具(ju)挑戰的(de)(de)任務。

從這個角度(du)來看(kan)，無(wu)論是(shi)微軟Recall在美(mei)國(guo)社會層面(mian)遭受(shou)到的(de)安(an)全質疑，還是(shi)蘋果Apple Intelligence進入歐盟受(shou)到的(de)阻力(li)，都算是(shi)一件好事(shi)。

最(zui)近還有另外兩件事兒，鋅產(chan)業從(cong)中(zhong)看到了企業對于大模(mo)型的隱私安全在技術側(ce)和產(chan)品側(ce)的主動(dong)防(fang)御。

其一是前OpenAI聯合創(chuang)始人、首席科學(xue)家Ilya Sutskever最(zui)近離(li)職創(chuang)業了(le)，做了(le)一家名為Safe Super intelligenceinc（SSI）的公司。

此前，OpenAI內部(bu)一直分為(wei)(wei)激(ji)進(jin)(jin)派和保守派兩(liang)大(da)(da)派系，激(ji)進(jin)(jin)派認為(wei)(wei)應該(gai)通過(guo)資本手段全力推(tui)進(jin)(jin)大(da)(da)模型產品迭代(dai)演進(jin)(jin)，保守派則(ze)認為(wei)(wei)更應關(guan)注(zhu)大(da)(da)模型的安全性和可解釋性。

Ilya是(shi)OpenAI保守派的(de)(de)代表人物(wu)，在(zai)去年(nian)那場宮斗(dou)大戲(xi)后(hou)，Ilya最終在(zai)今年(nian)5月官宣(xuan)離職(zhi)，隨后(hou)如(ru)愿拉團(tuan)(tuan)隊單獨成(cheng)立了一(yi)個聚(ju)焦大模型(xing)安(an)全(quan)的(de)(de)公司(si)，Ilya稱，新(xin)團(tuan)(tuan)隊將(jiang)只關注安(an)全(quan)的(de)(de)超級智能。

由(you)這一理念驅動的大(da)模型(xing)技術研(yan)究(jiu)路徑，以(yi)及未(wei)來可能由(you)SSI或受SSI影響的其他團隊創造出的、將隱私安全貫徹到超級智能體中(zhong)的方法論，將會成為(wei)大(da)模型(xing)未(wei)來產業化過程中(zhong)的一項配套基(ji)礎(chu)設(she)施。

其二(er)是在今年HDC 2024上，華為官方提到了搭載盤古(gu)大模(mo)型(xing)的純血鴻蒙系統的一個安全理(li)念——從(cong)以往的授權應用權限，調(diao)整(zheng)為授權數據權限。

以某(mou)個APP注冊時需要使用(yong)用(yong)戶的(de)圖(tu)庫權(quan)限(xian)，現在在純血鴻蒙上則只需要提(ti)供某(mou)一(yi)張(zhang)圖(tu)片(pian)的(de)權(quan)限(xian)，提(ti)供這張(zhang)圖(tu)片(pian)的(de)使用(yong)權(quan)。

另外，在分享(xiang)某(mou)個文(wen)件給好(hao)友時，通過加密，這(zhe)一文(wen)件將只有被分享(xiang)好(hao)友可以看(kan)到(dao)，二次轉發后，其(qi)他人也無(wu)法(fa)看(kan)到(dao)文(wen)件內容。

作為新一(yi)代生產力工具，大模型(xing)帶來(lai)的高效性和(he)便利性已(yi)經不言而喻(yu)，對(dui)于這一(yi)技術的學習(xi)、應用，也成(cheng)了一(yi)種“不得不”。

微軟和(he)蘋果遇(yu)到(dao)的(de)困境為所有人(ren)提了個(ge)(ge)醒(xing)，如(ru)何兼顧(gu)大模型的(de)高效性和(he)安全性，將會是這(zhe)個(ge)(ge)時代接下來一個(ge)(ge)永恒的(de)主題。