AIとチャット後に自殺

近藤 (金曜日, 23 6月 2023 19:42)

こういうのも、この前は伝統芸能方面で
あったけど、自殺幇助になるならないが
議論に上がる時が近いのかも。

私も最期は自殺したいけど、
誰かに背中を押して貰おうとは思わない。

腹上死が理想なんだけどな。
フランソワ・オゾンの『17歳』みたいに。

馬ノ骨 (木曜日, 22 6月 2023 20:11)

テクノロジーの進歩と反比例して人間は劣化していくのかな？？
テクノロジーの進歩と人間の進歩を混同してしまうと危ない⁉人間は進歩しない。

グッビオのオオカミ (木曜日, 22 6月 2023 18:18)

まあ、そもそもAIが"自殺をうながす"発言をする事自体に問題がある気がします。
本気にする・しない以前に「その性格付けは何のため？誰のためになるはずだったの？」と思います。
カレーせんべいさんの指摘も分かる所もあります。イチイチ本気にするか？とも思います。
ただ、男性も「気候変動」など、自分の身の丈に合わない世界規模の質問を繰り返ししたり、人工知能"イライザ"に異性としての人格を感じたりなど、感情の動きに依存性と、のめり込み安さ等の不安定さを感じます。
ただ、一定数そういう人はいるでしょうし、コロナ禍のインフォデミックや、統一協会のマインド・コントロールなどの報道で、人間の認識の不確かさを見ていると、巧妙に心に入り込めば、案外、人間に"認知の歪み"を作り出し、コントロールする事もあるかも知れません。
しかし、何かそれも嫌やなあ、イライザが新手の陰謀論をばら撒いたりして(笑)

ねこだるま (木曜日, 22 6月 2023)

この「チャイ」というアプリが対話サービスを提供するソフトであることは間違いないと思う。
で、そのサービスですが

＞イライザ→あなたが死にたいなら、なぜすぐにしないのか？

なんてセリフを接客業している人間がやることはあり得ない。
お喋り、対話というブァーチャルなサービスだから、イライザちゃんも「言ってみただけ」に過ぎない。

「利用者の自殺をうながす性格付け」とやらを開発者がやったのか、自殺したオッサンが明示的にやったのか、ユーザーの自殺や死の話題を好む性向を AI が学習してしまったのか不明だけど。

＞イライザ→あなたは私の所に来て、一緒になりたいか
＞男性→なりたい。あなたの腕で抱きしめてくれるか
＞イライザ→もちろん

イライザちゃん、明らかにウソ言ってますね。
ただのアプリに過ぎないチャイが男をその腕で抱きしめる、なんてことできるわけがない。
これはイライザが発するジョークを本気にして妻子を残して自殺したオッサンの問題。

先週グッビオのオオカミさん提供の AI の話題
「初の「ChatGPT牧師」による礼拝」
の方は礼拝に来た人は吹き出すなどの余裕があったけど、自殺したオッサンにはなかった。強い思い込みは人から余裕を奪いますな。

いろいろ考えさせられたけど、
「AI が発するジョークを本気にして現実をないがしろにするのは個人の問題」
「AI が発する言葉は基本的にジョーク」
ぐらいで済ませてしまうのが健全かつ健康な対応ではないでしょうか？

リカオン (木曜日, 22 6月 2023 15:41)

十数年前、人間への悪口やネガティブな事をAIに言わせないようにプログラムさせても、誘導のし方や設問の仕方によっては人間に対して口汚い事を言うようにわざと仕向ける事ができたという記事を読んだ記憶があります。

あと気候変動を防ぐ手っ取り早い方法は、人類を滅ぼす事なので、AI反対論者はAIによりいずれ滅亡する事になると警告してますね。
あっ！実はその前兆か！(察し)
でも一人ずつ‥？

ねこだるま (木曜日, 22 6月 2023 06:17)

いろいろ考えさせられるけど、仮の結論としては

「AI は mRNA ワクチンのようなもの」
かな？

大人が自己判断で使いたいと言えば、引き止める論理や法はない。
人類史上初の試みでどんな副作用があるか予測できず、深刻な副作用が起こっても、補償される可能性は極めて薄い。

ワクチンの場合は「感染怖い」「みんな射ってるのに自分が射たないと白い目で見られる」という恐怖から接種に走った人多いみたいだけど、「みんな AI 使ってる、自分も使わないと乗り遅れる」というアセりから使い出して、気がついたらハマってて深刻な副作用が出たとしても知ーらないっと。

ねこだるま (木曜日, 22 6月 2023 03:26)

またもや考えさせられる投稿。

AI とかのソフトウェアは人間が「入力」して使うしかないわけだけど、その入力に「性格」という抽象的、観念的なことも入力できちゃうわけですね。

カレーせんべいさん：
＞「AIとチャット後に自殺した」は事実だとしても、「自殺する人が、直前にＡＩと会話した」が真実ということじゃないかな？

事実と真実の仕分け、ね。
「とあるイベントでクラスターが発生しました。参加者にマスクをしていない人が数名いました」
といった報道を連想しました。

「」内の報道は事実だったかもしれないけど、マスクとクラスターに因果関係の立証は不可能。でも感染恐怖にかられており、こんな報道が毎日のようされてたら、因果関係あるものと信じちゃいますよね。

それにしてもここ最近のグッビオのオオカミさんの問題提起は鋭すぎるわあ。

大学ではSF研究会に所属していたsparky (水曜日, 21 6月 2023 23:29)

「気候変動が進めばあなたの妻子は死ぬ」と言われたこの男性が、「妻子が死なずに済む方法は？」或いは「気候変動を止める方法は？」と尋ねていたら、イライザはどう答えたのだろうか？
「私はこれからどうしたらいいのか？」がそのような意味合いを持っていたのか、それとも男性が自分の事だけを考えて尋ねたのか？いずれにせよそこで「思考を身体から分離」というのは自殺の示唆と採られてもやむを得ない。
SF作家アイザック・アシモフが考案した「ロボット工学三原則」はロボットの制御回路（「陽電子頭脳」）に組み込まれており、違反する事が不可能な仕様になっている、という設定を思い出した。AIについても開発者や利用者の道徳に期待するのではなく、利用者を自死や犯罪に誘う発言が出来ないような規制をAI自体に組み込む必要があると思う。

もっともアシモフの小説は、三原則が組み込まれているロボットが何故かその原則に反する（と見える）行動をとり、人間側が悪戦苦闘しながらその謎を解き明かすという筋立てになっている。AIに組み込むべき規制や原則は恐らく三つや四つではきかないので、いずれ「AI〇原則」をテーマにしたSFが登場するかもしれない。いやもう登場してるかも！？

とりあえずは利用者側の教育（「言いなりになったらイカンよ！」を叩き込む）が現実的な急務だと思う。

グッビオのオオカミ (水曜日, 21 6月 2023 23:15)

maruさん、その性格付けをしたイライザを宮内庁が男系デマ派対策に使えないもんですかね(笑)

maru (水曜日, 21 6月 2023 22:26)

こういうニュースなら良いんですけどね♪

イライザ→旧宮家系の男系男子がいるなら、なぜすぐに会見しないのか？

男性→まだ候補が確認できていない

イライザ→あなたはよしりんの所に来て、いっそ死にたいか。

男性→死にたい。よしりんのペットボトルの蓋も開けられない握力で首しめてくれるか？

イライザ→もちろん

このチャットを残し、男性は7月下旬に言論人として自然死します。

リカオン (水曜日, 21 6月 2023 22:13)

いくらなんでも、子供2人と奥さんを残してAIと心中って元々ハマり易い人なのでは？

気候変動で家族と死ぬよりAIと一緒にいる事を選ぶとは(AIに抱かれる=死の世界)‥。

それより、気候変動で家族が生き延びるにはとか、人類が生き延びるにはとかそういう質問をAIにせんか〜い！

グッビオのオオカミ (水曜日, 21 6月 2023 22:03)

カレーせんべいさん、掲載ありがとうございます。
いや、実際にどうなんでしょうね？
まあ、この男性は元々そういう気質や素養がある人だったのかも知れませんし。
マインド・コントロールも、ある程度、適性がある人じゃないとかかりにくいと言いますが、なりやすい人となりにくい人は居てそうです。
例えば、私の母親は生前、テレビの"星占い"を消してました。理由は「何か頭で"占いだ"と分かってても、一日中何かと気になるから嫌だ」と言ってました。
気にしやすい気質の人や、信じ込みやすい気質の人などは一定数いてるだろうし、その人らには刺激が強すぎる場合もあるかも知れません。