 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。
; S9 `6 K7 F) {$ n
: S+ x2 X' d1 H* h然而,当初人们对AI的各种担心,也在逐渐成为现实。
8 B) V/ q- b, s! k5 m1 a+ q H D$ ?
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!3 R! a9 v I# m4 V3 f: C# C
0 C5 L3 R- }& t; T! o8 w g这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。 Z' b6 r" v7 M- z' `4 T
, ^, o. k, d5 Q, ~
) Q" ~1 W2 a+ x e# V7 X! H3 j1 q+ Y+ b k4 D+ G6 j6 d
2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。9 P; w# K9 U: k
: }% N# s: s K8 K% F8 R头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——
4 [6 E* \8 p# E7 r. m4 L; x; u$ g+ k% J$ a, p9 y/ j9 g) a
大学里来来往往的人是假的,看到的摸到的全是虚拟的。
; J) E5 p% d* V. p2 S! O* J* ~ V2 ^2 C4 q
朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。% }8 {1 H M2 u3 J! }9 ` [5 `, s
# r" I! ^0 {( P% C因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
4 @, Z$ q+ C; U6 G! i: R) g+ r% G" Y' m6 Z; h$ k
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”8 G3 S9 L, Q! w" G
" M9 t/ }0 `* Y: ~6 ~3 K. H一听这句话,都有一股AI的味道了...
$ G6 v) v/ ?4 K( g# L$ L9 G& L6 t2 K% ~9 }
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。2 E- t: k* v% l( E. J
% A2 v# k' U( k7 w& y7 g1 o
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”/ f4 a4 ~% c6 l3 ?% h. m* M! i
4 p3 @" X2 I! j: @3 M8 r9 W1 A
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。9 {) d- e( a4 T
0 @+ ^2 `8 M9 G# ?/ m- W他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。
2 U+ a) e1 |% K: k0 a4 u0 W; T9 e/ [, w c+ D$ f1 W9 g
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。; {# U6 x& q/ p% Q3 {8 R; Z# o% U
7 s8 }1 b$ L9 t x5 B
& d6 o/ |) i- U/ t& ~9 J3 {' i& q
) L5 S h6 F. a& g5 Y# [5 ^
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
( @' k5 y. l& H! p8 z+ n {/ T" e' u% Q( D
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
/ {5 \- s. K7 {6 v: ~
# c8 U/ q& A) }8 k7 t# n1 l- |0 s这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。; F% q; x N7 L/ p3 s2 {3 w
/ R9 w: B9 f3 @' r7 b3 q6 X! G9 j
截至目前,这个小组已经有超过125人,大家成员来自各行各业。$ F2 [! }+ y4 b# E2 q3 H
2 i/ F/ S/ n% c" q
今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。* _& o+ y7 l' y5 E9 q* ^0 O
( s, \" R! N0 ~9 }4 }麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|