 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。
9 x" \. p7 I5 t, Q$ t9 d1 h4 ~4 \& m# x! G. j* l! S) n
然而,当初人们对AI的各种担心,也在逐渐成为现实。
7 ?* i) h* R5 V) x- h% E, d v. }* ?8 z |
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!; E: j* h- `5 [7 v6 Z" @& o
, Q! |4 b, I* }0 x! F @这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。
+ i$ N6 }+ b; b
/ J, |; ]1 p! S5 @( I' |6 L$ C
( w8 J% ^" e, Y0 T' ]8 O- w2 E+ U* m" j
2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。; V) D! k3 I9 B7 R
( ], ^2 J% K5 h2 V& a- t
头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的—— l+ \% Z r) }5 i* `5 Z6 Z
0 B0 |8 m h7 l, a1 _大学里来来往往的人是假的,看到的摸到的全是虚拟的。
2 c( \- X q) T y9 E, B, l
1 ]# J8 e+ \9 g朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。
% \. {$ l* E/ X/ W# K! A7 R. y! M9 L0 b* |: m
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
; ^, _# C7 k. h4 j) ^
' {) e4 r7 B% D7 G“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
3 j4 x8 x* H- p' }! Y* M
$ Z7 ~+ Y& h) J7 `( ]一听这句话,都有一股AI的味道了...
7 Y: W+ m" u- F, ?) E9 _& Z4 S t4 b" P4 q
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。* ?0 x g0 o/ C. Y- _( C/ x8 A7 k
. D+ f) x2 P5 |4 ~ K& ]
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”
4 i& ^- h0 f* M0 G2 H; I% `$ m0 P) s8 f( E3 g/ h& p0 J; a7 i- t
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
% H' n, L6 Z4 o6 O; _% e8 ]% k0 S3 ]9 [, D$ M" L& N$ h0 x
他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。! G2 j' C4 q# y1 F r
* B: L# b }1 I' x+ N, h6 M3 PAI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。4 y! ]1 f' F& b
; L" P& R5 e/ s& H- n" ~9 h
: ]! G2 d& F4 t, [3 H+ x1 p
6 @8 C' q6 I s9 L+ R3 |
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。3 p- F5 g1 ]( r# S' Y
. L4 ^; s6 K; \, l
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
+ x, r/ a: K1 T: h3 g
+ }- E! u; N. [' m( [3 n9 [+ {这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。' j; i8 e3 V" R
$ S7 x$ `3 l- u$ s% \% L
截至目前,这个小组已经有超过125人,大家成员来自各行各业。
0 M& Z- Q! {, e9 l: |0 ?7 G% e3 g8 ?9 {! H# Z) h- A0 u4 I2 L# ]$ I
今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。1 K1 y' a4 b `! K& m1 z
0 {2 {; f- T, l, ~2 \
麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|