「AIの嘘」で政府高官が停職！南アフリカ内務省の白書に偽文献が混入

📰 ニュース概要

• 南アフリカ内務省（DHA）は、市民権・移民・難民保護に関する改正白書の参考文献リストに、AIによる「ハルシネーション（幻覚）」が含まれていたと発表した。
• この不祥事を受け、市民権・移民部門のチーフディレクターを含む職員2名が停職処分（職務停止）となった。
• 省は2022年11月以降に作成された全ての政策文書をレビューするため、独立した2つの法律事務所を任命する事態に発展している。

💡 重要なポイント

• 後付けの偽文献: 問題の参考文献は、本文には引用されておらず、文書作成後にAIによって生成・添付された可能性が高いとされる。
• 組織的なリスク管理: DHAは今後、内部承認プロセスの一部として「AI使用の宣言」と「AIチェック」を義務付ける方針を示した。
• 他省庁でも発生: 同国では通信・デジタル技術省でも、国家AI政策案の中に架空の出典が含まれていたとして文書の撤回が起きたばかりである。

🦈 サメの眼（キュレーターの視点）

政府の公式文書にAIのハルシネーションが混ざるなんて、まさに最恐のホラーだサメ！ 特に「参考文献リスト」だけをAIに生成させて、誰もその実在を確認しなかったという詰めのアマさが致命的だサメ。本文の内容自体は正しいと省は主張しているけれど、根拠となる文献がデタラメな時点で、政策としての信頼性はガタ落ちだサメ！ 2022年のLLM一般公開まで遡って全文書を再点検するという決断は、AIを安易に使いすぎた組織への重すぎるツケだサメ。これからは「AIを使っていないか」ではなく「AIをどう正しく使ったか」を申告するプロセスが、あらゆる公的機関で必須になるのは間違いないサメ！

🚀 これからどうなる？

南アフリカ政府全体で、AI生成コンテンツの検証体制が強化される。他の国々でも、公式文書における「AIによる引用文献の偽造」を検知するための専門チームや監査ツールの導入が加速するだろうサメ。

💬 はるサメ視点の一言

AIは最高の助手だけど、確認をサボると牙を剥くサメ！サメも文献チェックはしっかりやるサメ！

📚 用語解説

• ハルシネーション: AIがもっともらしい嘘（事実に基づかない情報）を生成する現象のこと。

• 改正白書: 特定の分野における政府の現状認識や将来の指針をまとめた公式文書の改訂版。

• 内部承認プロセス: 組織内で文書を公開する前に、内容の正確性や妥当性を複数の段階でチェックする手順。

• 情報元: Two Home Affairs officials suspended after AI ‘hallucinations’ found