フォロー

FYI: 「道徳的チューリングテスト」の実権結果と知見

論文の概要:

米国の成人299人に「道徳的チューリングテスト」——道徳的な課題に対する人間とAIの解答を、誰が書いたかを知らせずに評価してもらった。その結果、彼らはAIの道徳的推論を高潔さ、知性、信頼性などほとんどすべての次元において「人間よりも質が高い」と評価した。

この事は、人々がAIからの潜在的に有害な道徳的ガイダンスを無批判に受け入れてしまうのではないか、という懸念を抱かせる。

AI/LLM(大規模言語モデル)の道徳的言説は洗練されているが、必ずしも意味を理解している訳ではなく、その点で犯罪者やサイコパスと似ている。

感想:
なお、論文では「倫理分野の用語や理論の整備が求められる」とも記している。私は、ここはけっこう重要だと思っています。

書誌情報はリプライで。(続く

論文
Eyal Aharoni他, Attributions toward artificial agents in a modified Moral Turing Test, Scientific Reports, 30 April 2024
nature.com/articles/s41598-024

上記論文を紹介した記事

どんどん賢くなる生成AI、最新の道徳チューリングテストが明らかにしたAIのモラル, JBpress, 2024.5.13
jbpress.ismedia.jp/articles/-/

ログインして会話に参加
Fedibird

様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。