前不久，“AI孫燕姿”“AI王菲”們爆火出圈，成為短視頻平臺新一輪的流量密碼。與此同時，能以假亂真、掩人耳目的AI技術也在頻頻觸及法律紅線。近日，北京市通州區人民法院調研發現，平臺流量背后有人正在利用AI換臉擬聲實施不法行為，如偽造不雅視頻、換臉詐騙等。

AI違法行為防不勝防，民事方面易引發肖像權等侵權行為，刑事方面易引發詐騙罪、侵犯公民個人信息罪等犯罪行為。據此，通州法院法官通過兩起典型案例揭示AI技術亂象背后的法律問題，以能動司法擊敗“AI魔法”，提醒公眾提高維權和反詐意識。　

案例1

利用AI技術使用他人形象視頻

涉事公司構成肖像侵權被判賠

陳某在某網絡平臺注冊賬號，發表諸多唯美造型視頻，有粉絲上萬人。某公司利用AI技術運營某款APP，該APP向用戶提供拍攝視頻時的提詞功能以及提供面部替換的視頻模板。某公司未經陳某許可在該APP中使用陳某發布在其賬號中的多個唯美視頻作為視頻模板，供軟件用戶進行面部替換。陳某發現后提起訴訟，某公司刪除相關視頻。

法院經審理認為，某公司運營的該款APP具有明顯的商業屬性，其未經陳某許可使用陳某個人形象視頻進行運營，并非法律規定的合理使用，對陳某構成肖像侵權，應承擔相應的侵權責任。判令被告某公司在該APP首頁置頂處刊登道歉聲明向原告陳某賠禮道歉，并賠償陳某1000元。

法院調研發現，AI換臉擬聲技術用于商業盈利時極易引發肖像權、姓名權等人格權糾紛，一些營銷短視頻、音頻的商家經常在未經當事人許可和同意的情況下進行換臉、換聲操作，以此獲利。這種行為屬于侵權行為。

法官介紹，人格權是民事主體享有的生命權、身體權、健康權、姓名權、名稱權、肖像權、名譽權、榮譽權、隱私權等權利。自然人享有肖像權，有權依法制作、使用、公開或者許可他人使用自己的肖像。肖像是通過影像、雕塑、繪畫等方式，在一定載體上所反映的特定自然人可以被識別的外部形象。任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規定的除外。未經肖像權人同意，肖像作品權利人不得以發表、復制、發行、出租、展覽等方式使用或者公開肖像權人的肖像。

法官提示

如遭遇被換臉、換聲的民事侵權行為，要有主動維權意識，要關注侵權方相關作品發布時間、數量、范圍，主動搜集網站/APP截圖、音頻、視頻等作為證據，向侵權方提出嚴正交涉，積極運用法律途徑維護自身合法權益。如在本案中，法院經審理查明某公司的行為構成肖像侵權，不僅判令某公司公開賠禮道歉，并且要求某公司賠償損失。擊敗“AI魔法”，交出公正答卷，人民法院隨時嚴陣以待。

案例2

用AI智能軟件詐騙近百萬四被告人獲刑

2022年2月，被告人郭某在A省某區成立未經審批登記的“公司”，并雇用被告人黃某、江某、田某等人通過某AI智能軟件篩選有意向炒股的股民“資源”（被害人），用于出售給下游公司獲利。郭某負責將其員工篩選、添加好的股民微信提供給其他同伙的“公司”進行電信網絡詐騙活動；其他同伙負責用微信小號進行角色扮演，對所謂的炒股資深專家“王某”進行吹捧以取得被害人信任，誘導添加了微信的被害人在虛假投資平臺上投資，以此騙取被害人的投資款。至2022年7月，郭某等人共騙取投資款人民幣近百萬元。法院經審理認為，被告人郭某構成詐騙罪、侵犯公民個人信息罪；黃某、江某、田某等人構成非法利用信息網絡罪。

法官指出，AI犯罪手段越發高明，犯罪分子通常會通過AI技術進行聲音合成和換臉，并用AI程序篩選受害人，再用盜號或角色扮演等方式騙取信任，甚至生產出定制化的犯罪腳本，進一步實施不法行為，受害人往往難以在第一時間分辨出真偽，落入違法者圈套。這種違法犯罪形式往往構成多種罪名，最終被數罪并罰。

法官表示，違反國家有關規定，向他人出售或者提供公民個人信息，情節嚴重的，處三年以下有期徒刑或者拘役，并處或者單處罰金；情節特別嚴重的，處三年以上七年以下有期徒刑，并處罰金。詐騙公私財物，數額較大的，處三年以下有期徒刑、拘役或者管制，并處或者單處罰金；數額巨大或者有其他嚴重情節的，處三年以上十年以下有期徒刑，并處罰金；數額特別巨大或者有其他特別嚴重情節的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產。

法官提示

警惕此類AI犯罪行為，如遇“微信好友通過視頻借款”情形，切記多渠道核實“好友”身份，勿輕易轉賬，如您已經轉賬，及時報警或撥打反詐中心電話96110；如遇“低風險高回報的投資理財”情形，莫存在僥幸和投機心理，為了所謂高回報的收益，輕易將錢款轉賬至不明來路的“投資平臺”。理財要通過正當合法手段進行；如遇“×××邀請您進入群聊/視頻會議/直播間”情形，不要輕易加入全是陌生人的微信群聊、視頻會議，容易陷入犯罪分子提前制作好的角色扮演和犯罪劇本之中，成為待宰羔羊。