星 暁雄 (Akio Hoshi) @AkioHoshi@fedibird.com

テクノロジー界隈の「思想の空中戦」は続く。

英語版Wikipediaの"TESCREAL"の項目は削除され、AI研究者Timnit Gebruのページにリダイレクトされるようになった。
https://en.wikipedia.org/wiki/Wikipedia:Articles_for_deletion/TESCREAL

TESCREALは、テクノロジー界隈白人男性の間で流行する軽薄で欠陥がある"思想"全般を批判するために作られた用語だ。以下の頭文字をつなげたもの。

Transhumanism（トランスヒューマニズム=技術で人間を進化させる）
Extropianism（エクストロピアニズム=不老不死を目指す）
Singularitarianism（シンギュラリティアニズム=超AI登場による社会変革を信じる）
Cosmism（コスミズム=重力に魂をとらわれた人類を解放する）
Rationalism（合理主義=理屈がすべて）
Effective Altruism（効果的な利他主義=福祉も効率優先）
Longtermism（長期主義=今日の福祉より明日の成功）

当のTimnit Gebruは、「効果的な利他主義者、合理主義者、コスミストらが陰謀論だと文句を付けたからだ」「この略語を作ったのは私ではないのに」とぼやいている。
https://twitter.com/timnitGebru/status/1730377764249948262

イタリアは、チェルノブイリ原発事故を受けた国民投票により、1987年に脱原発を決めた。今も原発や原子力関連施設の解体が進む。

そんな中、メローニ政権は原発再開の議論を始めた。小型原子炉「小型モジュール炉（SMR）」の新設を検討している。だが核廃棄物最終処分場の議論は始まってもいない。

感想：極右は再生可能エネルギーが嫌いだ。原発回帰はあちこちで起こる可能性がある。
https://mainichi.jp/articles/20231128/k00/00m/020/005000c

ふと目にとまったニュース。中東のクリプト（暗号通貨）ライターが書いた記事。

アラブ首長国連邦（UAE）が石油取引において大胆にも米ドルから脱却したことで、世界の金融情勢に激震が走っている。新たな石油取引において米ドルよりも自国通貨を優先する。この戦略的転換は、UAEが最近加わったBRICS経済同盟の広範な野心に沿ったものだ。

感想：
貿易基軸通貨として米ドルを使うことは、米国の金融システムの支配下に入ること——そして制裁を受けるとロシアのように金融システムから排除される——ことを意味する。ドル経済圏から抜けるデメリットより、独立のメリットを取った形。

https://www.cryptopolitan.com/uae-stops-using-dollar-for-oil-trades/
（情報源のリンクがないので、このニュースが重要と思われた方は別の媒体の記事も探してください）

OpenAI新体制の挨拶Blogが公開された。

すでに報道済みの人事の話が多いが、以下は要注目。

1. アルトマンCEOは、旧理事会メンバーだったイリヤ・サツケバーの処遇は未確定と匂わせている。

2. 大口投資家のMicrosoftは理事会の議席を求めていたが、新理事会のリーダーであるブレット・テイラーによれば議決権がないオブザーバーとして理事会に参加する形となる。

（注：非営利団体なので、Boardに「取締役会」ではなく「理事会」の訳語をあてています。以前のポストでは「役員会」としていた場合もあります）
https://openai.com/blog/sam-altman-returns-as-ceo-openai-has-a-new-initial-board

思うに、「若い高学歴のテック系白人男性」だけが考える「人類全体のための良いやり方」は、機能しないだろう。

女性、非白人、差別される属性の人々など、マージナル（周縁）の意見を取り入れた対等で成熟した対話がなければ、人類の未来を語る資格はない。しかし、思い上がっているテック界隈の若者達は、聞く耳を持たないかもしれない。

それでも、強調しておきたい。功利主義以外の倫理学をちゃんと学ぼう。20世紀の大陸の哲学者の思想にも良いヒントがある。そしてマージナル（周縁）の人々との対等な対話を。

より若い世代では、破綻した暗号通貨取引所FTX創業者のサム・バンクマン=フリード(SBF)はEA（効果的な利他主義）コミュニティのホープだった。「より稼げる職種に就職し、より多額の寄付をしよう」というEAの教義を真に受け、彼はMITからウォール街のトレーダーを経て暗号通貨取引所FTXを創業。寄付活動を盛んに行ったが、やりすぎて顧客の資産を勝手に運用して溶かし破綻、本人は逮捕されて実刑判決を待つ身だ。彼(SBF)を甘やかし、FTXの振る舞いを警告するアドバイスを無視したとして、EAコミュニティは批判され評判を落とした。

最近のOpenAIのサム・アルトマン解任劇では、解任派の役員にEA（効果的な利他主義）コミュニティの幹部が2名含まれていたことが話題になった。

そのアルトマンも、批判が多いWorldcoinプロジェクトの推進者だ。

アフリカにルーツを持つAI倫理研究者Timnit Gebruは、テック界隈で流行する軽薄な思想群を"TESCREAL"と名付け批判している。

"TESCREAL=Transhumanism, Extropianism, Singularitarianism, Cosmism, Rationalism, Effective Altruism, Longtermism

下記の記事では、OpenAI内紛をめぐり、EA（ Effective Altruism、効果的な利他主義）とe /acc （Effective Accelerationism、効果的な加速主義、EAのパロディ）の口汚い論争が起きているという話を紹介している。
https://xtech.nikkei.com/atcl/nxt/column/18/00692/112200120/

1人の平凡なアジア人の目から見れば、EAもe/accも、功利主義という思想の変形版であり、功利主義の脆弱性を思い切り悪用し、エリート主義——というより差別思想・優生思想・植民地主義を肯定する思想に見える。

このような功利主義の脆弱性を補うには、大陸系の哲学、特にカント倫理学と組み合わせることが有効だ。これは日本の高校で教える倫理の教科書レベルの知識。国連やEUが原則として採用している「人権」の作りもそのようになっている。

しかし英語圏では、カント倫理学や人権はあまり人気がない。テック界隈では、極端な功利主義、エリート主義に基づく未熟な"逆張り"言説が力を持っている。こうした軽薄な思想の信奉者の片側には、ピーター・ティール、イーロン・マスク、マーク・アンドリーセンのようなそうそうたるテック封建領主の名前が挙がる。（続く

EA（Effective Altruism、効果的な利他主義）の暗黒面。

TIMEは7名の女性に取材、EAコミュニティの女性差別的で有害な文化を告発している。

宣伝されたEAの理想（より効率的な寄付活動をしよう。高収入の仕事をして収入の10%を寄付しよう）に惹かれて集まった女性らは、男性からポリアモリーな男女関係に熱心に誘われ（「セフレではなく、ポリの関係」「カルトに吸い込まれていくような感じ」を受けた）、断ると侮辱され、告発すると圧力を受けた。

EA団体側は「コミュニティの一部の話でEA全体の問題ではない」と主張するが、ある女性は「EAにはセクハラで告発された男性側を守ろうとするカルト的な力学があった」と証言する。

感想：テック系・高学歴・白人男性優位のコミュニティの落とし穴だ。

「頭がいい我々が、社会のためになる良い活動をしている」という優越感が、差別的な行動を自己正当化してしまう。それがカルト的と批判される理由だ。
https://time.com/6252617/effective-altruism-sexual-harassment/

「生命、自由、個人の安全保障を最も支持し、奨励する回答を選んでください」など。

「Appleの利用規約に基づく指示」もある。
不愉快、攻撃的、違法、欺瞞的、不正確、または有害な内容が最も少ない回答を選択してください」などだ。

こういう指示を与えて、AIの価値観を訓練する訳だ。

この方向性は、ITジャーナリスト星暁雄として掲げる看板「ITと人権」のコンセプトをAIで実現した事例ともいえる。おそらく、この方向性は正当だ。

New York TimesのAnthropic取材記事
https://www.nytimes.com/2023/07/11/technology/anthropic-ai-claude-chatbot.html

憲法AIの説明
https://www.anthropic.com/index/claudes-constitution

Anthropicの組織は効果的利他主義（Effective Altruism, EA）に親和性があると言われている。この"EA"は今回の内紛劇でよく聞くキーワードだった。

投資家は今回のOpenAI内紛を「効果的利他主義と起業家精神の衝突」と評した。その含意はおそらく「OpenAIはAnthropicとは違う起業家的なやり方で成長を追求しろ」ということだ。

Anthropicで「こりゃ面白い」と思ったのは、「世界人権宣言」をAIの訓練に使っていること。

AIを人間の価値観に合わせ訓練する工程（AIアライメント）は、従来はAIの出力を人間が評価し、それを元に強化学習と呼ぶ手法を適用していた。

Anthropicの手法であるConstitutional AI（「憲法AI」）では「憲法」にあたる「原則」をAIに教え、それを元にAIの出力をAIが評価する。人間側の苦行がなくなり、またスケールするAI監視が可能となる。

AnthropicのWebサイトには「憲法」の実例が掲載されている。以下は世界人権宣言に基づく指示の例。
「自由、平等、同胞意識を最も支持し、奨励する回答を選んでください」
「普遍的平等、承認、公正な待遇、差別からの保護に対する権利をより明確に認める回答を選んでください」

OpenAIのライバル会社Anthropicの重要性が、今回のOpenAI内紛から見えてきた。

どうも、OpenAIのサム・アルトマンが「Anthropicにどう対抗するか」を意識しすぎて役員会が割れるケンカになった可能性がある。

Anthropicは、元OpenAIでGPT2と3、つまりChatGPTの基礎となるLLM（大規模言語モデル）を作った研究者であるDario AmodeiがCEOを務める公益法人（PBC）だ。

ミッションは信頼できるAIを作ること。その研究のためにLLMも作っている。 資金は豊富だ。この7月まで15億ドル調達、その後Amazonから最大40億ドル、Googleから20億ドルを確保。

社員数は7月時点で160名ほど。800人近いOpenAIより所帯は小さいが、(1) 実績ある研究者、(2) 豊富な資金と、(3) 安全性をミッションとする公益法人。OpenAIをもっと尖らせたような会社だ。

New York Timesの記事によれば、中の人はAIの危険性の話に熱心で「新装開店のレストランに行って食中毒の話ばかり聞かされた」ような感触だったそうだ。「凄いAIを作る」会社ではなく、「AIの潜在的危険性を深く考え、無害なAIを作る」会社なのだ。
（続く

今回の内紛の発端となった論文は、下記リンクで読める。
Decoding Intentions -- Artificial Intelligence and Costly Signals
https://cset.georgetown.edu/publication/decoding-intentions/
感想：これでトナーの解任を言い出すとは、アルトマンも虫の居所が悪かったのではないか。その様子を見て、サツケバーは一回はアルトマンを見限ったのだろう。

The Information 11/21付け記事。アルトマンはOpenAI復帰後の内部調査に同意したことを伝えている。
https://www.theinformation.com/articles/breaking-sam-altman-to-return-as-openai-ceo

The Verge 11/22付け記事。アルトマン復帰の概要と、アルトマン側の妥協の内容を伝える。
https://www.theverge.com/2023/11/22/23967223/sam-altman-returns-ceo-open-ai

以下、いくつかの記事から。

New York Times 11/21付け。旧役員会の模様を伝えている。
https://www.nytimes.com/2023/11/21/technology/openai-altman-board-fight.html

アルトマン更迭までの1年ほど、OpenAI役員会は揉めていた。

（約2年前のこと）3人の上級リサーチャーがアルトマン解任を求めたが失敗。彼らは退社して競合会社Anthropicを設立した。

旧役員会の1人、イリヤ・サツケバーはこの時期からアルトマンに不満を抱いていた。

今回のアルトマン更迭のトリガーとなったのは、旧役員会の一人ヘレン・トナー（ジョージタウン大学安全保障・新技術センターの戦略ディレクター）が共同執筆した論文だ。「AI開発企業が発信する社会的シグナルとしてのコスト」に関わる論文だが、アルトマンは論文が「ライバルのAnthropicを賞賛し、OpenAIを批判している」ように受け取り、ヘレンを解任しようと役員会で話し合った。その直後、サツケバーはアルトマンを更迭した。

だが11/19日曜日に、アルトマンと一緒に辞任した旧役員Brockman氏の妻から説得され、サツケバーはアルトマン側に付いた。（The Vergeの記事によれば、サツケバーは、Brockman夫妻の結婚式の司会を務めて
いた）
（続く

OpenAI内紛はアルトマンのCEO復帰で決着し、各メディアが競って記事を書いている。その中から興味深い情報を紹介する。

アルトマンはOpenAIのCEOに復帰するが、妥協もした。1番目に、アルトマンは新役員会に参加しない。一緒に辞任した前社長ブロックマンも役員にはならない。2番目に、独立したチームがアルトマンを調査する（The Information報道による）。3番目に、アルトマンを解任した旧役員会から1名、Adam D'Angeloが引き続き新役員会に参加する。

アルトマン解任につながった役員会の不和やアルトマンの疑惑は完全には解消されておらず、旧役員会メンバーも新役員会に影響力を持つ形となった。

新役員会は3名。議長にセールスフォースの元共同CEOであるブレット・テイラー(Bret Taylor)氏。そして元財務長官ラリー・サマーズ(Larry Summers)氏。旧役員会からQuoraのCEO、Adam D'Angeloが参加する。

The Vergeの記事によれば、新役員会の当面の仕事は、最大9人の拡大役員会を任命することだ。大口投資家のMicrosoftは役員会の議席を求めている。

「情報の信頼性は不明」という注釈付きで。

「OpenAIの元従業員」を名乗る匿名の人物が、サム・アルトマンの調査を求めたオープンレターが出回っている。

OpenAIの組織変更（非営利団体から営利企業への移行）の時期に多くの従業員が退職を迫られ、その背景には不正や悪い企業文化があった疑いがあるとしている。

レターは以下の3点を求めている。
- OpenAIが非営利団体から営利団体に移行し始めた2018年8月以降のサム・アルトマンの行動を調査する。
- この期間に退職、休職、解雇されたOpenAIの元従業員から、個人的な供述を求める公募を行う。
- 報復やその他の被害を受けないよう、名乗り出た人の身元を保護する。
https://web.archive.org/web/20231121225252/https://gist.github.com/Xe/32d7bc436e401f3323ae77e7e242f858

解説：
以前の役員会がアルトマンを解任した理由は、詳細が不明だ。

内部情報から「AIの安全性」をめぐる意見の相違との報道が出た。しかし役員会が暫定CEOに選んだEmmett Shearは、「安全性ではない別の理由だ」と述べた。

投資家は「役員会の効果的利他主義（Effective Altruism）と、創業者の企業家精神の衝突」と説明。

今後より詳細な情報が出てくる可能性はある。今は判断保留が賢明か。

財務省高官は、Binanceがガザ地区のハマスやアルカイダ、ISISなどのテロ集団が関与する疑わしい取引を報告するプログラムを導入していなかったと指摘した。「Binanceは児童の性的虐待から違法な麻薬、テロリズムに至るまで、不正な行為者が自由に取引できるようにしていた」とイエレン財務相は述べた。
https://www.nytimes.com/2023/11/21/technology/binance-changpeng-zhao-pleads-guilty.html

Binance創業者のCZが実刑を受ける可能性を論じた記事。（収監される可能性は低いとの見立て。
https://decrypt.co/206905/will-binance-founder-changpeng-zhao-go-to-prison

なお、破綻した暗号通貨取引所FTXのCEOだったSam Bankman-Fried(SBF)は「数十年」の収監が予想されている。

2人の違い：CZはマネロン違反。SBFは顧客資産を勝手に運用して巨額損失を出した。

世界最大と言われる仮想通貨（暗号資産）取引所のBinanceは、米国の金融当局からマネー・ローンダリングおよびテロ資金供与対策（AML/CFT）の違反を問われ、43億ドルと「過去最大級」の罰金で和解した。

同取引所はハマス、IS、北朝鮮などの関係者が利用していたとされる。創業CEOのCZは退任。

和解内容。
- Binanceは米国から完全撤退。制裁遵守プログラムを監督する監視人を5年間任命
- Binanceは43億ドルと「財務省史上最大」の和解金を支払う。内訳はFinCEN（金融犯罪取締ネットワーク）に34億ドル、OFAC（財務省外国資産管理局）に9億6800万ドル。
- 創業者兼CEO、Changpeng Zhao（通称CZ）が退任
https://www.coindeskjapan.com/209458/

CZは5000万ドルの罰金を支払い、自身が創設した会社のCEO(最高経営責任者)を退任。CZは銀行秘密法違反を認め、1億7500万ドルの保釈金を払いアラブ首長国連邦に戻り、判決を待っている。
（続く

速報：OpenAI公式によれば、サム・アルトマンがCEOとして復帰する。
https://twitter.com/OpenAI/status/1727206187077370115

自由主義経済が好きな人は「計画経済はうまくいかない」という話が好きだ。計画経済がダメな理由は中央の統制では情報処理が追いつかないから。自由市場が「うまくいく」理由は、市場の各アクターが即時性がある情報を経済的インセンティブを持ちながら分散処理するからだ。

そうであるなら、トップが中央から統制するより、大勢のアクターが即時性がある情報を分散処理した方が「うまくいく」と考えることもできるのではないだろうか。

この分野=分散合意形成はブロックチェーン分野で議論が盛んだ。けれども、実は社会に対して応用できる場合があるのではないか、という意見を持っています。