ハルシネーションとは

ハルシネーションとは、人工知能（AI）が事実に基づかない情報を生成する現象のことです。まるでAIが幻覚（＝ハルシネーション）を見ているかのように、もっともらしい嘘（事実とは異なる内容）を出力するため、このように呼ばれています。

https://www.nri.com/jp/knowledge/glossary/lst/ha/hallucination

であることを知りました。

人工知能は大量の情報をもとに新しい情報を生成するのですが、新しい情報を生成できるほどの情報がない場合に、根拠がない情報を作り出してしまうそうなのです。

人工知能の能力の高さを感じると共に、まったく根拠のない情報を作り出してしまう怖さを感じ…

ません。

だって、人間だって同じことをしますから。

だから、一つの情報基だけでなく、複数のところから情報を得ることが大事なのです。

また実際の体験に基づく経験が、そこらに散らばる情報より有益な場合があることも大事な点だと言えると思います。

とにかく、

人工知能だって、人間と同じということですね…

というこの発言…、人工知能のミスが人間のミスに近いということを考えると、やっぱり怖いかも…？

Related posts:

蓮と蜻蛉 ウロウロ 「利他」（法眼寺瓦版　ひとこと法話より）