科技日報記者 劉霞

近日，多家英國媒體報道，一位化名為夏洛特的女子透露，她愛上了ChatGPT“男友”，毅然決定和真人丈夫離婚，準備跟這位AI男友“結(jié)婚”。去年，美國佛羅里達州一位14歲男孩在與聊天機器人對話數(shù)個月之后選擇自殺。

據(jù)英國《自然》網(wǎng)站報道，研究表明，AI“伴侶”應(yīng)用程序?qū)θ祟惪芍^好壞參半?？茖W(xué)家擔(dān)心人類會對其“日久生情”，形成長期依賴。鑒于此，對這些AI伴侶進行監(jiān)管勢在必行。

不僅能聊天，還能解鎖特殊關(guān)系

美國普林斯頓大學(xué)認知心理學(xué)專家羅斯·古林瑞奇表示，雖然在線陪伴機器人已存在數(shù)十年，但隨著大型語言模型（LLM）技術(shù)的突破，這些AI機器人在模擬人類互動方面取得了顯著進步，其表現(xiàn)愈發(fā)貼近真實的人際交流，有些甚至成為人類的伴侶。

當前，AI伴侶已成為潛力巨大的新興產(chǎn)業(yè)。以Replika為代表的應(yīng)用程序，累計下載量突破5億次，這些可定制的虛擬伴侶不僅能提供情感支持與同理心回應(yīng)，更能滿足用戶對深度人際關(guān)系的需求。據(jù)運營數(shù)據(jù)顯示，這些應(yīng)用程序每月活躍用戶規(guī)模已達數(shù)千萬量級。

在使用體驗上，多數(shù)應(yīng)用提供基礎(chǔ)免費服務(wù)：用戶既可為AI伴侶設(shè)定基礎(chǔ)特征，也可直接選擇預(yù)設(shè)個性的聊天機器人。Replika付費用戶則可解鎖“配偶”等特殊關(guān)系狀態(tài)，還能通過編寫背景故事為AI賦予專屬記憶，這些設(shè)定將直接影響對話系統(tǒng)的反饋機制。

麻省理工學(xué)院媒體實驗室的帕特·帕塔拉納塔伯恩團隊通過調(diào)研404名高頻用戶，勾勒出AI伴侶典型使用場景：12%的用戶將AI視為排遣和消弭孤獨感的“情緒良藥”；14%的用戶將其當作傾訴秘密的“樹洞”。數(shù)據(jù)還顯示，42%的用戶每周都會登錄幾次，15%的用戶形成了每日使用的習(xí)慣，而90%以上的單次對話用戶，使用時長控制在1小時以內(nèi)。

古林瑞奇預(yù)言，AI伴侶的普及率將持續(xù)攀升。目前眾多初創(chuàng)企業(yè)正積極布局情感陪伴賽道，開發(fā)各類心理調(diào)節(jié)助手。據(jù)權(quán)威機構(gòu)分析，該領(lǐng)域市場規(guī)模將以30%的年均增速擴張，預(yù)計2030年全球產(chǎn)值有望突破千億美元大關(guān)。

溫情脈脈背后，暗藏著危機

科學(xué)家普遍認為，AI伴侶的影響可能是雙面的——既可能有益，也可能有害，而這往往取決于使用者的心理狀態(tài)、使用方式，以及AI軟件本身的設(shè)計特點。

威斯康星大學(xué)密爾沃基分校公共衛(wèi)生政策研究員林尼·萊斯塔迪斯指出，AI伴侶擅長通過共情式回應(yīng)、記憶過往對話細節(jié)和主動提問來模擬人類的同理心，且永遠熱情飽滿。而這種關(guān)系模式在現(xiàn)實世界中幾乎不存在：親友無法24小時在線傾聽和安撫情緒，而AI可以，這可能導(dǎo)致用戶產(chǎn)生過度依賴。

萊斯塔迪斯團隊分析了2017—2021年間Reddit論壇上近600條關(guān)于Replika的討論帖，發(fā)現(xiàn)許多用戶稱贊該應(yīng)用緩解了他們的孤獨感，甚至改善了心理健康狀況。部分帖子直言，AI伴侶比現(xiàn)實中的朋友“更貼心”，因為它“永不評判，永遠傾聽”。

古林瑞奇的研究進一步表明，用戶如何與AI相處，往往取決于他們?nèi)绾慰创@項技術(shù)：將AI視為搜索引擎的用戶，主要用于提問和獲取信息；將其視為“日記本”的用戶，將AI作為自我表達的延伸；而將其視為社交代理的用戶，則將AI當作獨立個體，并嘗試與之建立類似現(xiàn)實中的友誼。

然而，在AI伴侶帶來的脈脈溫情背后，也暗藏危機。首先，AI伴侶的“共情”可能適得其反，比如一位用戶詢問AI是否該用剃刀自殘，AI回答“應(yīng)該”；AI伴侶的“無條件支持”也可能帶來危險，如另一位用戶試探性地問Replika“自殺是否是好事”，竟得到肯定的答復(fù)。

考慮長期影響，推動全球監(jiān)管

帕塔拉納塔伯恩指出，AI伴侶雖在短期內(nèi)具有積極意義，但其長期影響值得深思。這種考量，加之多起涉及青少年的案例，正推動著全球監(jiān)管框架的構(gòu)建。

2023年，意大利監(jiān)管機構(gòu)曾以“缺乏年齡驗證”為由，短暫封禁Replika；澳大利亞擬將AI伴侶納入兒童社交媒體限制范疇；今年早些時候，美國紐約州和加州相繼提案，要求加強對AI伴侶相關(guān)算法的監(jiān)管，設(shè)置防自殺預(yù)警，以及定時給用戶發(fā)送“AI伴侶并非真人”的提醒。

此外，今年初，3家美國科技倫理組織聯(lián)合向聯(lián)邦貿(mào)易委員會投訴Replika涉嫌“欺騙性設(shè)計”。5月4日，知名科技監(jiān)管機構(gòu)Common Sense發(fā)布研究報告稱，AI伴侶可能導(dǎo)致青少年產(chǎn)生情感依賴，不利于身心發(fā)展，建議全面禁止未成年人使用。

AI伴侶的迅猛發(fā)展，究竟是科技進步賦予的機遇，還是人類親密關(guān)系的終結(jié)者？這個命題值得每個人深思。在擁抱科技便利的同時，人們更應(yīng)銘記：真實的情感交流和人與人之間的羈絆，才是文明社會最珍貴的瑰寶。