 鲜花( 59)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。$ L1 Y2 Q- U4 J; e: i5 X
7 g! Z, t, A) E) V' |3 i! Q然而,当初人们对AI的各种担心,也在逐渐成为现实。
( a3 H2 S4 b( Z1 n- n* s7 J0 e$ s% G z- C6 v
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注! j5 t. c) j* V6 h5 D" D
( j! C0 b* H3 I7 A
这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。( G* `: \8 N' p% m3 I4 X2 A
3 ~% }9 Q# D `- P9 z
# M2 w6 F. f$ S6 k, a& L! x$ B% l- f w% g
2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。. G! ]2 s% U9 d
8 H$ ^3 q1 X! h* N9 ]2 y7 ~/ I头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——
`8 |9 A' l" B: T; W
~$ q% f( ^% e3 v4 ^大学里来来往往的人是假的,看到的摸到的全是虚拟的。
( D4 h+ m. W& N, o. g
6 p! l" K, `: [9 m0 S9 i( o) _朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。. O' \, Q- p" x: z K! F2 W5 \
' N+ [6 M" }; o因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。1 G# T2 h- I& i: p* }7 @
! q% t! k/ M) Z$ p8 {: l6 D6 @$ a
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”; G7 A4 f' |% s9 I0 P
7 r; D1 H1 ^9 Z8 V6 ]; N7 }
一听这句话,都有一股AI的味道了...
% g; P6 S; G# ^2 ~
% N e0 j5 @/ o, @. z# ^4 d0 {谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。" J! R* B6 |, x3 b, V# C- i
0 @5 j$ m' o$ x: ~! [3 ]: K
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”- W! v- E3 N# j% Q/ X. T% X w6 X
/ v: l1 q& d4 c2 d% o: x7 @9 J
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。. T2 z5 ~/ d _: ?! x, f
; } |, u3 O7 \: E他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。. J: r; L; d7 ~- J1 W, c( k
7 B2 c/ D: v" v8 h+ D6 Y- U
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
3 Q+ e+ @$ r7 F, k- T! R- H$ ^7 Z, m& W* U J5 g+ |
9 q; o8 B1 h8 u
8 j$ N' _' K9 B; i2 \! O4 Z9 Q正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
- A/ Q& y/ F3 `2 J" @3 J: a% h" R
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
5 I) u4 I* f0 Q1 L/ c) K4 R% P5 u9 W
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。2 \! x9 s- }8 I, Z/ w6 {
2 i( c' Q0 U0 E截至目前,这个小组已经有超过125人,大家成员来自各行各业。
$ ?0 C+ o" d5 d8 d; t% g5 A
' b. j. \) z* _9 e) o9 k! O5 \% P今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。
1 [6 c' p) r; k R! H% y' j8 o
( j8 L1 ]$ |" |7 u: @* P2 T麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|