 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。' V. o/ \8 }( N+ o, V
9 ^: C3 A. V+ w2 A
然而,当初人们对AI的各种担心,也在逐渐成为现实。
% F& M' T: y/ x ^* c4 _! l" i" a8 A/ n. |
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!
5 s K* Z, W8 n/ Q4 u9 b( |6 _2 O- k4 ?8 l( b. d3 ?: G; y
这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。& A! B) r4 y' a
) O% a ~9 I( L2 _1 P6 {
: f% P9 N5 o$ m6 R( j; Z9 c
! p, C# i: v! f k% h/ A2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。: G4 N* D7 D3 J* {& W" l
8 h1 e% @; B3 A
头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——& n& \3 L$ a+ P
5 ^3 E: s6 G/ ?( e/ K" e @大学里来来往往的人是假的,看到的摸到的全是虚拟的。9 @' ]: e* I$ k6 y( O2 V
( k0 n8 E& x( o. f1 b朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。0 @3 E' F& a4 A/ D
0 z( g' T3 p7 s因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。, A" s' t- Q2 G+ ?4 O2 Y, z/ T% q
: ~4 i' }2 O2 U1 v
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
9 \- p3 `& @2 `. X- g% A' F5 {. r9 q9 D3 Y# ~5 v
一听这句话,都有一股AI的味道了...
X6 |* ~$ l8 D9 M: o- Z+ f) z# r( F4 T9 R" y2 F# X
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。
9 _- P, E" ~$ j' P, |9 @1 E( i$ L. }$ p5 v+ {5 t
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”
2 E: B/ y9 W; e
# x- J) I. [8 }谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。+ `5 C$ r4 e; v; v; Z. {4 X
9 g5 M# a, m- y* F. p9 O+ e
他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。
$ Z% J$ l- C7 P
4 j1 c) \$ ]" }) N" w7 s5 y7 @& TAI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
% Y( B$ W- G& } d
! j4 O% X7 |; k1 ^! m8 i
8 B/ j) r6 g5 K- Z( j
- P, H! X- a3 A1 T
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
! r9 O6 w5 V3 q* z: T! m E H: T: u5 A2 `( g2 A( z: z
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
) e7 B8 z; ^) k# u
% v' U0 m0 |* x, I. E r这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。% Z3 L8 m* a7 Q
. w2 t; R$ G, ~* h( v6 g1 R1 T( T% N截至目前,这个小组已经有超过125人,大家成员来自各行各业。5 h& u, K/ g* j: c) g
- x# G3 k `. g今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。
8 k3 C& d2 i% T5 G d
* \3 d3 |3 N0 A1 F4 h( X/ V; b麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|