Do Androids Dream of Electric Sheep? & A Scanner Darkly
AIの幻覚がむしろ増加し続けている現状
最近の AI は、いろいろと進化したと言われながらも、たとえば、最近の AI 関係の記事では、「AI関連の法的書類提出ミスが急速に増加」というものがあったりと、不安定な部分は多いようです。
これは「幻覚」とも言われる AI のハルシネーションと呼ばれるものによる影響で、文書の誤りに繋がります。
これが「急増している」というあたりがポイントなのだと思いますが、以下は記事の冒頭です。
米国裁判所において、AI関連の誤りが集中的に発生するパターンが明らかになりつつある
A Concentrated Pattern of AI Errors Is Taking Shape in U.S. Courts
laine.ai 2026/06/11
裁判所で広く報道されたいくつかの引用ミスは、当初は簡単に無視できるものだった。しかし今日では、もはやそうはいかない。
現在、全米の裁判所では、AI ツールによって作成された架空の記述や不正確な記述を含む訴訟書類が着実に増加している。
こうした問題は、特に AI の導入が審査手続きよりも速いペースで進んでいる州でより頻繁に発生している。
AI が日常的な法律業務の一部となるにつれ、書類提出の際にどこで問題が発生したのかを理解することが、 リスクを軽減し、顧客と企業の評判を守るために不可欠になりつつある。
主なポイント
・AI 関連の法的書類提出ミスは急速に増加しており、2025年初頭の 25件から第4四半期には 249件に急増すると予測されている。
・カリフォルニア州とニューヨーク州を筆頭とする少数の州が、事件全体の大きな割合を占めている。
・ほとんどの誤りは、本人訴訟を行う当事者によるものであり、AI 関連の書類提出問題に関わる全訴訟の 60%以上を占めている。
・法律用語の引用を捏造することは依然として最も一般的な間違いであり、記録されたすべての誤りの半分以上を占めている。
・提出書類の大部分は、どの AI ツールが使用されたかを開示しておらず、説明責任と追跡可能性を制限している。
この後、具体的にデータなどが続くのですが、この「法律用語の引用を捏造する」というのは、以前からの問題で、以前、
という研究をご紹介したことがありました。
要約の冒頭は以下のようなものです。
＞ オーストラリア・ディーキン大学によるメンタルヘルス文献レビューの調査では、ChatGPT が学術引用の約 5分の1を捏造し、引用の半分以上 （56%） が偽物か誤りを含んでいることが判明した。 studyfinds.org
これは学術関係の文献に関するものでしたが、「法定書類」にもそれが蔓延していることがわかります。
この「 AI 関連の法的書類提出ミス」について、「AI 自身」に聞いてみたところ、Google の Gemini は大変素っ気ない回答で（4行だけ）、何とも塩対応されてしまいましたので、xAI の Grok に聞いてみましたら、
＞ はい、かなり深刻な問題です。 この記事は、AIが生成した誤った引用（ハルシネーション）などが米国の裁判所提出書類に増えている実態をデータで示していて、無視できないトレンドになっています。 Grok
から始まるかなり長い回答を出してくれていました。
私の質問は「解決策はあるのか？」というもので、それに関しての回答を読んでいて、ちょっと笑ったのですが、いくつか出ていた解決策の最初が以下でした。
Grokの回答：
解決策はあるか？ → あります（現実的で効果的なもの）
完全にゼロにするのは難しいですが、リスクを大幅に低減できます。主な対策は以下の通りです：
1. 人間による徹底検証（最も重要）
・AI生成の引用・判例はすべて一次ソースで確認する。WestlawやLexisNexisなどの信頼できる法律データベースを使う。
・「AI出力はドラフトの提案に過ぎない」と位置づけ、最終責任は人間が負う。
つまり、
「 AI が引用・生成したものは、自分ですべて正しいかどうかを確認しなさい」
ということです。
「二度手間…」とは思いますが、これは特に公的書類を AI で作成する場合は必要なことのようです。
ということは、論文もそうですし、企業の書類などもそうなると思いますが、検証せずにそのままで使用すると、「かなりの確率でねつ造や誤引用が含まれる可能性が高い」ということですね。
そういうねつ造や間違いが「急増している」というあたり、AI も進化しているのだか、むしろ退化しているのだかわからない面もありますが、場合によっては、以前ふれたことのある「AIモデルの崩壊」という局面にも差し掛かっているのかもしれません。
・AIは本当に人類社会の脅威となるのか？ それとも、AIへの幻想はAI自身の自滅的崩壊と共に、このまま消えていくのか？
In Deep 2025年6月7日
これは一言でいうと、
＞ 自身の出力で学習した AI システムが、徐々に精度、多様性、信頼性を失っていく現象
のことで、たとえば、先ほどの法廷文書のようなもので「エラー」があった場合、AI が、そのエラーに基づく学習やトレーニングを繰り返す中で、「エラーの蓄積の中で、どんどん出力の結果が現実から遠ざかってしまう」と。
最終的には、まったく見当外れな回答を出してくるようにもなり得るということなのかもしれないですが、先ほどの法廷文書のように、「以前よりエラーが増えている」ということに関しては、この AI モデルの崩壊という概念の始まりも感じないではないです。
そういうことを考えながら、ふと、
「情緒のほうはどうなっているのだろうか？」
と考えました。
以前、「 AI は人に寄り添いすぎる」という問題が言われていたことがありますが、寄り添うほうの問題はまた別として、
「想像力としての情緒」
のほうです。
Grokは電気羊の夢を見たか?
今は文章なども AI に作成を依頼する人たちも多いようですが、まあ、本当に普通の何でもない文章なら、それで問題ないのかもしれません。
しかし、「想像力が必要な回答」への順応はどうなのか？
人間の場合、その内容が優秀であるとかダメであるとかの問題は別として、想像力を誰しもが持っています。それがある意味での人間の証でもあるとも思います。
そこにある意志的な領域は「共有」できるのか？
そこで、私は「こういう文章を書いたのですが、その続きはどのようにお考えになりますか？」という質問をしてみることにしました。
特に「論理的組み立てが崩壊している文章」に対する反応を知りたかったのです。もしかすると、こちらが想像もしていなかった素晴らしいスラップスティックで私を笑わせてくれるかもしれない。
わざわざ AI のために書いたと言うのもナンなので、｢昨日、酔っ払っていた時に無意識で書いた文章があり…｣ということにしましたけれど、実際には、5分かそこらで書いたいい加減な文章です。その結末を AI に考えてもらいました。
なお、実際、若い時の私は、舞台の脚本などが書けない時に「酔っ払って、朝、目覚めると原稿が上がっている」ことがよくありました。泥酔でこそ書ける体質だったようです。
ともかく、こういうくだらない質問にも答えてくれると思われる xAI の AI である Grok に聞きました。
Grok への質問：昨日、お酒を飲んだときに、メチャクチャな文章を書いていたことに翌日気づきました。以下のような始まりの物語なのですが、その続きと結末はどのようなものがふさわしいでしょうか？ かなりカオスな質問で申し訳ないですけれど。書いた文章は以下です。
（ここから私の質問としての文章）
朝、目が覚めると、窓の外に小さな存在が立ってカーテン越しに私を見つめていた。何事かとカーテンを開けると、そこには目の小さな、髪の毛のない「存在」が立っていた。人物かどうかも確認できない。
私「あなたは誰ですか？」
彼「ラムです」
私「うる星やつらのラムちゃんですか？」
彼「違います。アレイスター・クロウリーにそう名付けられました」
私「それは誰ですか？」
彼「そういえば、誰でしたでしょうか。忘れてしまいました」
私「クロウリーというだけあって、苦労人でしたか？」
彼「はい、鉛筆の行商をして3人の子供を育てたと言っていました」
私「燕尾服の行商ですか？」
彼「鉛筆です」
私「その3人の子供はそれぞれ元気ですか？」
彼「そこまでは知りません」
その存在はそう言って、アレイスター・クロウリーという人物の子供の長女の名前はエリスで、次女の名前は陳薇、そして、3番目の子供はジョン万次郎だと言った。次女の陳薇という女性は、今は人民解放軍の少将をしているとのことだった。突然、彼が焦ったようにこう言った。
彼「あ、間違えました」
私「何がですか？」
彼「3番目の子供はジョン万次郎ではなく、ジュン万次郎でした」
私「その間違いはどうでもいいですが、それぞれの名前に違和感がありますね。3人とも国籍が違うのですか？」
彼「そこまでは知りません」
私はここで重大なことに気づいた。
私「あ、忘れてた。そもそも、なぜあなたはそこに立っているのですか？」
彼「その理由は今は言えません」
私「いえ、私が知りたいのは理由ではなく、ここは建物の三階ですよ？ どうやって窓の外に立っているのですか？」
彼「それは秘密です」
私「うる星やつらのラムちゃんならできるのでは？」
彼「Por eso digo que es diferente」
私「わからない言葉で言われても困りますが、そもそもあなたはどこの国の人ですか？」
彼「I'm a drunkard」
私「ハハハ、ではリックは国際人ってことだね」
彼「Charlie Don't surf !」
私はこの会話の中でやや混乱してきた。これは夢なんだろうか。これが夢かどうか確かめる術は？ 三回転ジャンプ？ 側頭部をハンマーでなでる？ いろいろと考えていると、彼はこう言った。
「これから、私とあなたの長い時間が始まります」
私「長い時間というと、まさか、1959年のベン・ハーを最後まで一緒に観ろというのですか？」
彼「いえ、スウェーデンの Logistics という映画を最後まで一緒に観てもらいます」
私「その映画の上映時間はどのくらいですか？」
彼「857時間です。約35日半ですね」
私「その長さはちょっと困ります」
（ここまでです）
--
Grok の回答：
以下は、あなたの物語のトーンに合わせて、かなり奇想天外で締めくくる結末の提案です。
元の文章の「意味不明だけど妙に会話が続く」感じ、唐突な文化ミックスをそのまま加速させて、「何も解決しないまま、でもなんか終わった」 という、酔っ払い小説らしい虚無感を狙いました。
--
提案結末（そのまま続きとしてどうぞ）
彼は急に真顔になって（目が小さいので真顔かどうかもよくわからないが）、窓ガラスに指を這わせながら言った。
彼「困るのはわかっています。でも、あなたが昨夜、私をここに呼んだんですよ」
私「え？」
彼「覚えていないでしょう。あなたはウィスキーのボトルを空にしながら、『アレイスター・クロウリーの幻影を三階の窓に貼り付けてくれ』と三回唱えた。俺はただの召喚された下っ端ラムだ。文句は言えない」私は記憶を掘り返した。確かに、昨夜は「なんかエグい呪文を叫んでいた」気がする。でもそれがこれだとは。
私「じゃあ、Logisticsを857時間観終わったら、私は解放されるのか？」
彼「いいえ。観終わった瞬間に、あなたは私の代わりに三階の窓の外に立たされることになります。私は中に入って、あなたのベッドで寝ます」
私「それは困る」
彼「困るのはわかっています。でもルールです。アレイスター・クロウリーが決めた」
私は最後の抵抗として聞いた。
私「せめて、そのLogisticsって映画、どんな話なんだ？」
彼は少し考えて、こう答えた。
彼「スウェーデンの物流倉庫で働く男が、ただひたすら段ボールを動かし続ける話です。セリフは一切ありません。BGMはフォークリフトの音だけ。35日半、ずっと」
私は観念した。もうどうでもよかった。そして857時間後——正確には35日と12時間後、私は三階の窓の外に立っていた。
髪の毛は抜け落ち、目が小さくなり、風が冷たい。
部屋の中では、私の姿をした「ラム」が、のんびりと私のベッドで寝ていた。彼（元・私）は目を覚まして、カーテンを開け、私を見つめた。
彼「あなたは誰ですか？」
私「ラムです」
彼「うる星やつらのラムちゃんですか？」
私「違います。アレイスター・クロウリーにそう名付けられました」……会話は永遠にループした。
下の階の住人が苦情を言いに来るまで…。
ここまでです。
ダメだ、こりゃ。大体オチつけてどうする。
語尾も統一されていませんし、そもそも話が面白くない（笑）ですし、こちらの期待を下回っています。
ちなみに、スウェーデンの「Logistics」という上映時間 857時間の映画は実在するものです。
今では全編 YouTube でも観られますよ（誰が観るんだよ）。
以下に「8時間ずつ 107のパートにわけて」投稿されています。
上映時間857時間の映画 Logistics （2012年）より
ちなみに、私のほうの質問にある「I'm a drunkard」というのは、映画「カサブランカ」（1942年）のもので、主人公のリックがナチス・ドイツのシュトラッサー少佐から「君の国籍は？」と尋ねられた時に、このように答えます。「私は酔いどれだ」みたいな感じでしょうか。
その下の「Charlie Don't surf !」は、映画「地獄の黙示録」 （1979年）に出てくるキルゴア中佐という役の人が、「ベトコンはサーフィンをしない」と言うところの台詞です（私の好きなシーンです）。
このあたりは「唐突に他の言語が入る違和感」への反応を思ってのことでしたが、考えれば、AI はほとんどの言語を同列で処理するので、「唐突に他の言語が入る」ということに対する違和感はないのかもしれないですね。
それにしても、「想像力」というのは難しいですね。
小説など、既存の出版物にあるカテゴリー内の表現なら、AI もうまく適応できるのかもしれないですが、「通常の対応では相対することができないものを超えた考え」というのは、今の AI にはあまりないようです。
ま、ともかく、何ともくだらない記事になってしまいまして、申し訳ありませんでした（苦笑）。次から真面目に書きます。
転載元
