50122 “雙面”AIGC:變臉、界線與博弈

2018高清国产一区二区三区-国产黄色视频免费在线观看-欧美激情欧美精品一区二区-免费国产一级片内射老妇

服務熱線:400-858-9000 咨詢/投訴熱線:
國內專業的一站式創業服務平臺
“雙面”AIGC:變臉、界線與博弈
數科社 ·

林木

04/01
AIGC的自我成長正給當今社會帶來雙面沖擊,有人在通過它“復活”親人、改變世界,有人在利用它吸金引流、顛倒黑白。
本文來自于微信公眾號“數科社”(ID:sktxs0),作者:林木,投融界經授權發布。

國產科幻(huan)電(dian)影《流浪地球2》中最感人的部分(fen)之(zhi)一,莫(mo)過于天才(cai)數(shu)字工程師(shi)圖(tu)恒宇為了讓因車禍去世(shi)的女(nv)兒丫丫成為永生數(shu)字生命,所做出的種種決斷。

該電影借用數字生命(ming)(ming)主題成功塑造了一(yi)個背負著地球命(ming)(ming)運(yun)和父愛(ai)私心的(de)人(ren)(ren)物(wu)角(jiao)色,探討人(ren)(ren)性深度的(de)同時,也與強人(ren)(ren)工智(zhi)能(neng)MOSS毫無(wu)人(ren)(ren)性的(de)一(yi)面(mian)形成鮮明(ming)對比,進一(yi)步引發了人(ren)(ren)工智(zhi)能(neng)如何(he)與人(ren)(ren)類文明(ming)共生共存的(de)思(si)考。

隨(sui)著(zhu)近年來數字(zi)科技(ji)、人(ren)(ren)工(gong)智能的飛速發展(zhan),這已然(ran)成為(wei)人(ren)(ren)們(men)現實(shi)生活(huo)中(zhong)正在(zai)面臨的新課題。

自ChatGPT引(yin)爆AIGC市場以來(lai),短(duan)短(duan)一年多時間,AI技術讓創(chuang)造數字(zi)生(sheng)命這件(jian)事變得(de)更加簡單、真實。生(sheng)成式AI只(zhi)需(xu)要(yao)一張照片、一段語音或一個(ge)視頻,就能創(chuang)造出一個(ge)能開口說話、做出表情的數字(zi)人。

然而,無(wu)論人(ren)(ren)(ren)工(gong)智能如何進(jin)化,卻始(shi)終保留(liu)著作為機器的(de)工(gong)具(ju)屬性,它(ta)所被(bei)賦予(yu)的(de)“人(ren)(ren)(ren)性”,取決于投喂“食物”的(de)好壞(huai),以及背(bei)后使用它(ta)的(de)人(ren)(ren)(ren)。這(zhe)也(ye)意味(wei)著,AIGC的(de)自我成長正給(gei)當今(jin)社會帶來雙面(mian)沖擊(ji),有人(ren)(ren)(ren)在(zai)通過它(ta)“復活(huo)”親人(ren)(ren)(ren)、改變世(shi)界(jie),有人(ren)(ren)(ren)在(zai)利用它(ta)吸金引流、顛(dian)倒黑白。

#01

變臉

“我要給丫丫完整的(de)一生。”《流(liu)浪地球2》中圖恒宇道出了(le)人們對(dui)(dui)于(yu)數字生命(ming)的(de)終極想(xiang)象。但(dan)在現(xian)實生活(huo),能夠(gou)與逝去的(de)親人再(zai)次對(dui)(dui)話已足夠(gou)慰藉不少人的(de)思念之苦。

今(jin)年初(chu),著名(ming)音樂人包(bao)小(xiao)(xiao)柏(bo)用AI“復活”女(nv)(nv)兒(er)以表達思(si)念。他的(de)女(nv)(nv)兒(er)三年前因病不幸離世(shi),為了走出痛失(shi)愛女(nv)(nv)的(de)陰影(ying),包(bao)小(xiao)(xiao)柏(bo)開始鉆研AI技(ji)術并攻讀相關專業(ye)博士(shi),希望重現女(nv)(nv)兒(er)的(de)音容笑貌。

最(zui)近,包小柏終于如愿用AI復刻出“數(shu)位女兒”,可(ke)即時響應問話,還讓(rang)女兒給妻子唱了(le)生日歌。他在(zai)訪談中表示:“我的(de)女兒又回來了(le)。”

消息發酵后,“AI‘復活’親人”這(zhe)一話題再次引發網友熱議。隨著生成式AI的橫(heng)空出世(shi),近年來用AI“復活”親人已不止(zhi)在(zai)電影中上演(yan)。早在(zai)去年清明,B站00后UP主吳伍(wu)六就曾用AI工(gong)具(ju)還原(yuan)已故奶奶,并和她聊起家常(chang)。

AI技術的(de)不斷迭代(dai)進化下,AI“復(fu)(fu)活”親人的(de)門(men)檻越(yue)來越(yue)低(di)。在電商平臺上,最便宜的(de)服務(wu),只需要一張照片就能讓其(qi)動起(qi)來并做出(chu)表情(qing),根據(ju)復(fu)(fu)刻效(xiao)果,價格(ge)在十元到幾百元不等。

AI成(cheng)了不少人寄托與傳(chuan)(chuan)達思念的工具,但一故事的走向(xiang)卻并沒有到(dao)此為止。就在網友尚(shang)沉浸在AI傳(chuan)(chuan)遞出的溫(wen)情(qing)之(zhi)際,不少逝世明星(xing)被(bei)人“復活”,頻繁出現在短視頻平臺。

這種現(xian)象遭(zao)到(dao)了逝者家屬的(de)嚴厲譴責與堅決(jue)抵制,喬任梁父(fu)親對此表示(shi)感到(dao)非常(chang)不適(shi),“他們(men)未征求我們(men)同意,這是在揭傷疤(ba)。”

而在AI“復(fu)活”逝者(zhe)的倫理爭議水面下,不止有人(ren)在通(tong)過(guo)“復(fu)活”別人(ren)的親屬賺取流(liu)量,還有人(ren)利用(yong)AI“換臉”技(ji)術(shu),惡(e)搞(gao)造謠以滿足一己私(si)欲,更有黑(hei)產團伙偽裝成他人(ren)的親朋好(hao)友榨取錢財(cai)。

今年(nian)315晚會,AI 擬聲(sheng)/變臉(lian)詐騙被點名(ming)曝(pu)光。過去一年(nian)的相關詐騙案例中,AI所展現的擬聲(sheng)、變臉(lian)技術(shu)已讓普(pu)通大眾(zhong)真假(jia)難分(fen)。據央視報道,在某些網絡交易平臺上,花 2 元錢就能買到上千張人臉(lian)照片。

更早之前(qian),AI合成技術在色(se)情地帶(dai)早已臭名(ming)昭著,合成換臉(lian)色(se)情內容泛濫(lan)成災,不少名(ming)人影星(xing)都曾遭(zao)過毒手。但如今(jin),隨(sui)著AI技術已進(jin)化至(zhi)“換臉(lian)”、“換頭”,甚至(zhi)能無中生(sheng)有(you)的階段,被偷臉(lian)、造黃(huang)謠等現象逐漸(jian)盯(ding)上了(le)更多(duo)普通人。

AIGC繁榮發展的另一面,陰暗(an)也在隨(sui)之蔓延叢生(sheng)。

#02

界線

盡管人性才是(shi)造(zao)成一切(qie)禍水(shui)涌(yong)動的(de)根(gen)源(yuan),但(dan)不能否認的(de)是(shi),不斷進化的(de)AI生產力(li),確實讓一些界(jie)線劃分(fen)變得(de)更加(jia)模糊(hu)不清(qing),比如(ru)內容版權問題。

今年2月,全(quan)球首(shou)例(li)生成式AI服務侵犯著作權(quan)判決在廣州互聯(lian)網(wang)法院生效(xiao),引發業內外(wai)廣泛關(guan)注。案件(jian)經過簡單來說是一位用(yong)戶在AIGC平臺上,用(yong)AI畫出(chu)了奧(ao)特曼形象被訴(su)侵權(quan)。

原告為(wei)擁有(you)奧(ao)特曼系列獨(du)占授權的(de)動漫IP代理(li)商上海新創華文化,被告并(bing)非用(yong)(yong)戶,而是為(wei)會員用(yong)(yong)戶提供AI繪畫功能服務的(de)一家AIGC網絡公司(si)。

最終,這家(jia)公司被判(pan)定(ding)在提供算力服務過(guo)程中,侵(qin)犯了(le)原告對案涉奧特曼作品(pin)所享有的復制權(quan)和改(gai)編權(quan),并應(ying)承擔相(xiang)關民(min)事(shi)責任。

這(zhe)一(yi)判決的(de)意義(yi)已遠超普通的(de)知識產權(quan)糾紛,亦可視為AIGC被劃下法律(lv)界線的(de)一(yi)次落筆。

事(shi)實上(shang),自(zi)AIGC爆火出圈(quan)以來,關于(yu)它的洗稿、洗畫等侵(qin)權疑慮與糾(jiu)紛(fen)就沒有停(ting)止過:去(qu)年1月,多(duo)名藝(yi)術家(jia)狀告“Stable Difussion”從(cong)網(wang)絡上(shang)采集近(jin)60億(yi)張(zhang)圖像來訓練其AI侵(qin)犯了“數(shu)百萬藝(yi)術家(jia)”的權利(li);去(qu)年12月,《紐(niu)約時報》訴Open AI事(shi)件(jian)持續發酵(jiao),多(duo)家(jia)媒體(ti)加入反(fan)抗隊(dui)伍……

AIGC以強大的(de)學(xue)習能(neng)力(li)、理解能(neng)力(li)和創造力(li)顛覆(fu)行業過往的(de)認知(zhi),但這些(xie)能(neng)力(li)來自于背(bei)后海量數(shu)據的(de)投(tou)喂與訓(xun)練。

在繪(hui)畫(hua)創作(zuo)(zuo)領域,僅輸入關鍵(jian)詞便能生成大(da)(da)量(liang)新鮮畫(hua)作(zuo)(zuo)的AIGC,無疑幫(bang)助(zhu)缺乏足夠繪(hui)畫(hua)技能的廣大(da)(da)人群大(da)(da)幅降低了創作(zuo)(zuo)門檻。前提卻先要被(bei)投喂(wei)大(da)(da)量(liang)圖片、畫(hua)作(zuo)(zuo),其(qi)中(zhong)很大(da)(da)一部(bu)分抓(zhua)取于互聯網上(shang)各類藝術家、畫(hua)家的作(zuo)(zuo)品(pin),以這(zhe)些作(zuo)(zuo)品(pin)為養(yang)料生成新作(zuo)(zuo)品(pin)。

而在文本生成層(ceng)面,AIGC已(yi)不單單涉及到侵權問題。不久前,有海外醫學(xue)研究團(tuan)隊進行了(le)一項用生成式AI制造(zao)虛假信(xin)息(xi)的測試(shi),短短一個小時內,他們就制作出超過(guo)100篇誤導(dao)性的博客(ke)、20張欺騙性圖片,以及一段(duan)深(shen)度偽(wei)造(zao)視(shi)頻(pin),聲(sheng)稱有關健康的虛假信(xin)息(xi)。讓(rang)人哭(ku)笑不得(de)的是,這(zhe)段(duan)視(shi)頻(pin)還能輕(qing)松(song)轉化(hua)成40多種語言。

AIGC當前最大的(de)缺陷在(zai)于無法判斷“食(shi)物”的(de)好壞以(yi)及進食(shi)的(de)界線(xian),這(zhe)也(ye)讓(rang)一些深受(shou)其害的(de)人找(zhao)到了反擊(ji)空間。

美(mei)國芝(zhi)加哥大學教授 Ben Zhao 領導開(kai)發團隊,開(kai)發出了一款名為Nightshade的(de)工具,通(tong)過用AI給AI“投毒(du)”的(de)方式(shi),幫助(zhu)藝術家防止(zhi)作品風(feng)格被AI抄襲。

Nightshade利用生成式AI大(da)肆進(jin)食(shi)的(de)安(an)全漏洞,訓(xun)練(lian)出有(you)毒的(de)“食(shi)物”樣(yang)本(ben),一(yi)旦被(bei)AI模(mo)型(xing)抓(zhua)取(qu)進(jin)食(shi),毒素就(jiu)會滲透整(zheng)個模(mo)型(xing)集,導致用戶想用AI畫(hua)一(yi)只狗(gou),最后(hou)卻生成一(yi)只貓(mao),或(huo)者其他動物。

如今,這(zhe)種方法被(bei)業(ye)內貼切形容為“毒丸(wan)”,原本(ben)發起的反擊也(ye)演(yan)變成攻擊,被(bei)不少人惡意使用(yong)。

#03

博弈

人(ren)工智能(neng)概念自(zi)20世紀中葉誕(dan)生以來(lai),就一(yi)直被視為一(yi)把雙刃劍(jian)。《終結者》《黑客帝國(guo)》等許多早期經典(dian)科幻作品的創作,都投射(she)出人(ren)們對于未來(lai)人(ren)工智能(neng)的恐懼情緒。毋庸置疑的是,過去七十余年里,人(ren)工智能(neng)化(hua)身為一(yi)個巨大生產力,在推動著(zhu)人(ren)類文明不斷(duan)前進。

2015年首次出版(ban)的(de)《未來(lai)簡史:從智(zhi)人(ren)到智(zhi)神(shen)》一書中,以色列歷史學家瓦爾(er)·赫拉利以其(qi)獨特的(de)視(shi)角,深入討論(lun)了人(ren)工(gong)(gong)智(zhi)能的(de)崛起將如何(he)改變人(ren)們的(de)生活和工(gong)(gong)作方(fang)式,又(you)給社會帶來(lai)何(he)種挑(tiao)戰。

這并非只是一(yi)部制造恐慌(huang)情緒的預(yu)言(yan)。相反,作者在(zai)書中同樣展現了(le)科技(ji)發(fa)展所帶來的巨大(da)機遇,還提出一(yi)系(xi)列富有挑(tiao)戰性的觀點,引導(dao)我(wo)們(men)思(si)考如(ru)何適應和引導(dao)科技(ji)的發(fa)展。

事實上,人類與(yu)人工(gong)(gong)智(zhi)能的共生共存,本身就是(shi)一種博弈。這是(shi)一個(ge)關于(yu)人機交互和協作的問題,涉及到(dao)人工(gong)(gong)智(zhi)能的可(ke)信度、可(ke)控性、可(ke)解釋性、倫(lun)理性等諸多(duo)(duo)方面。核心宗(zong)旨(zhi)是(shi)讓人工(gong)(gong)智(zhi)能更(geng)多(duo)(duo)的造福社會,服務(wu)于(yu)人。

但作(zuo)為受人(ren)掌控的智能體,人(ren)工智能顯然又陷入一種(zhong)雙面性的矛盾中(zhong),這(zhe)也(ye)導致每一次人(ren)工智能的進化,都會對社(she)會文明帶來一種(zhong)新(xin)的博弈和挑戰。

當前,以ChatGPT代表的AIGC的誕生,無(wu)疑讓(rang)人們對人工(gong)智能風險的防備心日(ri)益(yi)加深(shen)。

去年(nian)年(nian)底,中國信息通(tong)信研(yan)究(jiu)院發布(bu)了2023年(nian)人(ren)(ren)工(gong)智能(neng)風險管理體(ti)系。該(gai)體(ti)系將人(ren)(ren)工(gong)智能(neng)帶來的(de)風險分為(wei)兩類,即自(zi)身技術系統造成的(de)風險和應用(yong)產(chan)生的(de)風險,并參(can)考我(wo)國現行網絡安全等級保護(hu)要求將人(ren)(ren)工(gong)智能(neng)風險劃分為(wei)5個等級。

其中,最低層(ceng)風(feng)險(xian)是指不(bu)會(hui)對個人、企業、組織造成(cheng)權益傷害的(de)產品,如(ru)專用于下棋領域的(de)AlphaGo;最高層(ceng)風(feng)險(xian)則(ze)是指對人類社(she)會(hui)有(you)一定顛覆(fu)性影響,如(ru)不(bu)受(shou)人控制的(de)強(qiang)人工(gong)智(zhi)能。

法律界線(xian)的(de)劃(hua)分無疑(yi)能人類(lei)在(zai)這(zhe)場博弈中更加占據主(zhu)動(dong)權。過去(qu)幾(ji)年,全(quan)球都在(zai)積極(ji)探索(suo)人工智(zhi)能層面的(de)監管和治理路徑:

2019年4月(yue),歐盟委員會發(fa)布《可信賴人工(gong)智能(neng)道德準(zhun)則》,列出了(le)可信賴人工(gong)智能(neng)系統應滿(man)足的(de)七項重要(yao)要(yao)求;同在這年通過(guo)的(de)經合組織(OECD)《確定OECD的(de)人工(gong)智能(neng)發(fa)展(zhan)原則》報告,提出了(le)人工(gong)智能(neng)的(de)五項原則;2023年8月(yue),我國公布的(de)《生成式人工(gong)智能(neng)服務管(guan)理暫行(xing)(xing)辦法》正式施行(xing)(xing),首次針對于當下爆火的(de)AIGC產業進行(xing)(xing)規(gui)制(zhi)。

就在不久前,歐洲議(yi)會全體會議(yi)通過《人(ren)工智能法(fa)(fa)案(an)》,標志著歐盟掃清了立法(fa)(fa)監管人(ren)工智能的(de)最后(hou)障(zhang)礙。這(zhe)是(shi)全球(qiu)首部(bu)人(ren)工智能法(fa)(fa)案(an),也(ye)預示著2024年(nian)將迎來人(ren)工智能全球(qiu)治理的(de)“大(da)年(nian)”。

如果說“沒(mei)(mei)有人(ren)類的文明(ming)毫無意義”,那么沒(mei)(mei)有科技(ji)的世界(jie)也(ye)將(jiang)無法(fa)前進,我們與人(ren)工智能的博(bo)弈永(yong)遠不會(hui)結束(shu)。

雙面 AIGC 博弈
評論
還可輸入300個字
專欄介紹
400-858-9000
免費服務熱線
郵箱
09:00--20:00
服務時間
投訴電話
投融界App下載
官方微信公眾號
官方微信小程序
Copyright ? 2024 浙江投融界科技有限公司(xxccv.cn) 版權所有 | ICP經營許可證:浙B2-20190547 | | 浙公網安備330號
地址:浙江省杭州市西湖區留下街道西溪路740號7號樓301室
浙江投融界科技有限公司xxccv.cn版權所有 | 用戶協議 | 隱私條款 | 用戶權限
應用版本:V2.7.8 | 更新日期:2022-01-21
 
在線客服
微信訂閱