1. 創(chuàng)業(yè)頭條
  2. 前沿領域
  3. AI智能
  4. 正文

AI換臉足可“以假亂真”?若被濫用后果難料

 2019-05-17 17:33  來源:A5專欄  我來投稿 撤稿糾錯

  阿里云優(yōu)惠券 先領券再下單

文/東方亦落

最近,“AI換臉”風靡互聯(lián)網。起因是今年3月在B站的一段視頻中,94版《射雕英雄傳》里黃蓉的扮演者朱茵的臉被用AI技術換成了楊冪的臉,并且換臉之后毫無違和感,而楊冪的“演技”看上去也大有提升。先進的“黑科技”加上“射雕”、“楊冪”這些自帶話題的屬性,使得該事件迅速成為網絡熱點,B站視頻點擊量超出20萬,微博話題點擊量過億。

所謂“AI換臉”,即基于人工智能的人體圖像合成技術。想要實現(xiàn)這一功能,先要進行數(shù)據(jù)采集,捕捉不同的面部姿態(tài)、光照角度的人臉圖片,再對這些數(shù)據(jù)進行處理,如標準化、分割算法等等。按理說制作起來需要幾個小時到數(shù)十個小時不等,但現(xiàn)在已經出現(xiàn)了可以輔助AI換臉的插件。

現(xiàn)在有專門深耕這一功能的軟件,不管是容貌和性別都可以轉換,而且這種技術還有更多的作用。 比如今年春節(jié)期間的影片《瘋狂的外星人》中外星人之所以神態(tài)逼真,其實是通過AI對演員進行“動作捕捉”完成的。而美國電影《阿麗塔》也是通過AI換臉讓主角動感十足。甚至在《速度與激情7》中,用AI換臉技術還原了因車禍去世的主演保羅·沃克的臉,讓影片多了溫情的色彩。

而隨著AI換臉技術的普及,這種技術已經不僅局限于某個行業(yè)中,現(xiàn)在普通網民也可以隨意使用。于是網上出現(xiàn)了許多用明星的臉安到自己臉上的主播,還有某些軟件上用戶將自己性別調換的照片,以及目前流行的視頻中AI換臉等等。

從發(fā)展的角度來說,AI換臉的普及也是技術進步的表現(xiàn)之一,是值得人們欣喜的。然而事實上,此項技術缺乏監(jiān)管,也因此出現(xiàn)了一些不規(guī)范的現(xiàn)象。

AI換臉有一個名稱叫做DeepFake,這本是一位將《神奇女俠》的主角的臉換到另一張臉上的用戶的名字,但后來這位女演員起訴該用戶,然而由于缺少相關的法律條文而未能成功,而這位名叫DeepFake的用戶反而因為此舉迅速走紅,還成了AI換臉技術的“代言人”。

任何的技術都本無好壞之分,但這樣看上去,AI換臉技術似乎帶了一些“原罪”。 此后換臉之風愈演愈烈,而在這個過程中,使用這類技術的人也在侵權的邊緣試探。許多人將明星的臉換到某些*頻中并上傳到相關網站,導致一眾明星“躺槍”,這已經嚴重侵犯了他人的肖像權和名譽權。

AI換臉產生的負面影響并不局限于娛樂圈或普通人的生活中。去年5月,特朗普宣布中止全球氣候變化協(xié)議,可別有用心之人用AI換臉技術做了一個假視頻,引起了許多人的公憤。

實際上目前的AI換臉技術還有諸多不成熟之處,只要用心鑒別很快就能發(fā)現(xiàn)真假,但即使是這個水平的換臉術都已經引發(fā)了不小的問題,假使將來AI技術更加成熟,恐怕會帶來更多的影響,其引發(fā)的后果甚至可能是災難性的。

所以為了避免這種情況在將來出現(xiàn),人類需要未雨綢繆,使用AI換臉要有節(jié)制。相關平臺需要負起應負的責任。而監(jiān)管部門也需要根據(jù)現(xiàn)實盡快出臺相關的制度和法規(guī),避免AI換臉技術過度濫用而引發(fā)難以收拾的后果。

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關文章

  • 甌江論道:AI賦能綠色發(fā)展

    2025年10月25日,2025世界青年科學家峰會之人工智能(AI)融合創(chuàng)新發(fā)展論壇在浙江溫州成功舉辦。本次論壇由國際院士科創(chuàng)中心主辦,中國投資協(xié)會能源投資專業(yè)委員會、溫港院士科創(chuàng)中心承辦,中國電工技術學會、中科先進技術溫州研究院與溫州市電力工程學會提供支持,以“甌江論道-AI賦能綠色發(fā)展”為主題,

    標簽:
    ai技術
  • 王通:未來個人創(chuàng)業(yè)的十個機會

    個人創(chuàng)業(yè)需要啟動成本低、無需龐大團隊、可快速驗證、能利用個人技能或資源。這里分享適合個人創(chuàng)業(yè)的十個機會一.AI內容優(yōu)化與本地化服務·做什么:幫助企業(yè)或個人利用AI工具(如GPT-4,Midjourney)優(yōu)化內容生產流程。例如,為跨境電商撰寫多語言產品描述,為小紅書博主生成爆款文案,為小公司制作營銷

  • Figma股價熱情僅存1天,AI焦慮成關鍵隱憂?

    文/道哥美國設計軟件公司Figma近期在紐約證券交易所掛牌上市,首日即上演“狂飆”行情——發(fā)行價定每股33美元,開盤報價85美元,較發(fā)行價翻倍。首日收報115.50美元,較發(fā)行價大漲約250%,市值飆升至近670億美元,創(chuàng)下近30年來同等規(guī)模美股IPO的最大單日漲幅紀錄。然而,隨著短線資金獲利了結,

    標簽:
    ai智能
  • AI「帶飛」騰訊業(yè)績

    文/一燈來源/節(jié)點財經在當前無人敢缺席的AI軍備競賽中,巨頭們一面為巨額的資本支出焦慮,一面又向市場勾勒著未來的宏偉藍圖。在各家動輒千億級投入的背景下,市場迫切需要一份關于AI回報價值的有力證明。而騰訊,率先給出了答卷。8月13日,騰訊控股發(fā)布2025年第二季度財報。盡管資本開支同比劇增119%,達

    標簽:
    ai智能
    騰訊
  • Meta用億元薪酬發(fā)起「人才狙擊」能否買來一個AI未來?

    文/二風來源/節(jié)點財經2025年的硅谷,一場沒有硝煙的戰(zhàn)爭正以前所未有的烈度上演。這場戰(zhàn)爭的核心武器不是代碼或芯片,而是人——那些全球僅有數(shù)千名、能夠構建未來人工智能基礎模型的頂尖大腦。在這場激烈的人才爭奪戰(zhàn)中,Meta及其首席執(zhí)行官馬克·扎克伯格(MarkZuckerberg)正扮演著最具侵略性的

    標簽:
    ai智能
  • 弈動 Dynamic·數(shù)智躍遷 博弈無界|2025TechWorld智慧安全大會在京召開

    在數(shù)字化與智能化深度交織的時代浪潮中,安全的邊界不斷延展,技術的演進正引領產業(yè)邁向新一輪變革。10月24日,以“弈動Dynamic·數(shù)智躍遷博弈無界”為主題的2025TechWorld智慧安全大會在北京盛大召開。來自國家部委、院士學者、高??蒲袡C構和企業(yè)的權威專家與業(yè)界精英齊聚北京,共議AI安全、數(shù)

    標簽:
    弈動
  • 甌江論道:AI賦能綠色發(fā)展

    2025年10月25日,2025世界青年科學家峰會之人工智能(AI)融合創(chuàng)新發(fā)展論壇在浙江溫州成功舉辦。本次論壇由國際院士科創(chuàng)中心主辦,中國投資協(xié)會能源投資專業(yè)委員會、溫港院士科創(chuàng)中心承辦,中國電工技術學會、中科先進技術溫州研究院與溫州市電力工程學會提供支持,以“甌江論道-AI賦能綠色發(fā)展”為主題,

    標簽:
    ai技術
  • AI云“分野”:阿里云們“賣鏟”,火山引擎奇襲“MaaS”

    AI云“分野”:阿里云們“賣鏟”,火山引擎奇襲“MaaS”

    標簽:
    阿里巴巴
  • 未來5年,中國AI的“大洗牌”和“內循環(huán)”

    我覺得我們AI的目標是:從芯片設計到軟件生態(tài),全鏈路自主開發(fā),建立可控的世界級AI體系。所以這是俺對未來5年中國AI圈的展望和判斷。(1)2026年,英偉達造車、國產開車26年國產芯片會在推理和垂直場景上發(fā)力。以DeepSeek為代表,大多數(shù)AI大模型會以軟件彌補硬件不足,所以訓練和推理分開,訓練就

  • H20芯片開賣即叫停,英偉達如何解圍?

    文/道哥在深陷“后門”風波、接受網信辦問詢之后,英偉達的“特供版”H20芯片,又有了新消息。近日,美國科技媒體《TheInformation》援引知情人士消息稱,英偉達已悄然向其關鍵供應商——包括負責封裝的安靠科技、供應高帶寬內存的三星電子、以及承擔后端處理的富士康發(fā)出指令,要求暫停所有與H20AI

    標簽:
    英偉達
  • 真正的「國產英偉達」來了

    文/二風來源/節(jié)點財經一場關于“中國芯”的IPO審議,正把投資者們的目光鎖定在上交所。根據(jù)上交所發(fā)布的公告,上市審核委員會已定于9月26日審議摩爾線程的科創(chuàng)板首發(fā)申請。作為中國半導體自主化浪潮中最受矚目的“考生”之一,包括其創(chuàng)始人顯赫的英偉達背景、高達80億元人民幣的募資雄心,以及在國產GPU領域取

    標簽:
    英偉達