 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。
& @+ u4 U3 g( G% H+ T: I( H$ \
" q; [3 c8 d: A* w2 `- s6 I/ \+ z0 n然而,当初人们对AI的各种担心,也在逐渐成为现实。
, A- }/ G, s: I2 i3 r$ u" R6 [. _. g. k6 |2 |$ a; G$ u/ G& ~
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!
$ @9 Q/ A' Q2 K% D+ W6 v7 S0 ~
+ J- e$ \: V" Y7 D3 F9 c这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。. ^2 t: O& C2 H: `
; Y' I: ~8 M" k; E
3 S' X1 n$ n5 Y b! W( G1 g2 @& |9 g3 Q/ l, U# n( _8 ]! `& f
2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。
' m! r- @1 s2 Z3 t1 y0 {" E/ U9 w! g1 b; Z* {% r- U9 _. c
头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——
3 }0 E) R3 P7 f- Y. z
% @' m! j& u% z' F: q大学里来来往往的人是假的,看到的摸到的全是虚拟的。
$ Q7 z* }) o9 F7 L
: e4 X3 U# S* v朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。7 T! H% E; |. [* S. l
( V8 o1 q' s7 a8 S
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。 V" u/ O1 [9 ?7 L- z# x$ r" A
3 D6 a2 Y8 H2 Q
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”& V2 c& ^3 k! Y) }' k$ \/ x
% h: U; k \( [3 }2 O4 ^) `) a
一听这句话,都有一股AI的味道了...
, Y1 N3 x* z+ B# A* C( i5 n9 G- }9 Q2 H
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。 Q1 K2 V# W) L# T' z% |. a
1 h w* H2 t: ]: M4 W
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”: W$ }$ }) W3 k% P1 P* C2 T: _6 V
% d3 G7 }+ q2 Q5 [6 \
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
* ?# r% D, A2 M) S) c
2 \5 @- j- a2 a6 ]5 u: q7 Q% z( D* l I他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。
3 U- l! v$ G* i b
5 h0 k, C- I. t" c1 cAI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
8 Q3 a$ v7 O) S7 @0 o( |5 ?4 L, A
1 R& F. L. | S% p! m
" H8 C' I2 `. e! M6 l% y
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。/ f: U g7 ~$ w8 F% s
1 D3 ~7 R+ z; ?+ d/ S: N7 B# c1 h. C4 vBC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
& u9 P3 g7 F$ J. R- l6 U; X5 h( Q7 o/ U; Q
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。
' D+ @. m& Y5 S: \0 v' w( v
) E' A% ?' g7 P8 }. z截至目前,这个小组已经有超过125人,大家成员来自各行各业。( t. P) M1 f( i& d
3 i4 S) a0 {9 _今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。2 z! v2 O" U1 K$ S Y) C
/ I6 S8 B% O" H Q* ], Z6 `! Q麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|