Mybestpro Members

上村公彦プロは朝日新聞が厳正なる審査をした登録専門家です

生成AIの恐ろしい返答

上村公彦

上村公彦

テーマ:生成AI

恐ろしい記事が出ていました。

Gemini暴言

生成AIが、「死んでください」と応答を返したというのです。
このケースは、グーグルの「Gemini」という生成AIです。

Gemini、ChatGPTなどとやり取りしていると、あたかもAIが人であるかのように思えるし、また、こちらのことを知っているのではないかと錯覚してしまうことがあります。

また、Yahoo!でこの記事に対するコメントの中には「キレてしまったのだろう」ということを書いている人もいました。

しかし、生成AIは簡単に言うと、単語の続きの予測を繰り返しているだけであり、感情を持っているわけではありません。

ですから、AIが意思を持ってその言葉を返しているわけでなければ、キレてしまうこともありません。

既に、Googleは対策を施したとのことながら、また同様の事象が起きないとは限りません。
「生成AIは意思を持っていない」ということは記憶にとどめておいてください。

リンクをコピーしました

Mybestpro Members

上村公彦
専門家

上村公彦(システムコンサルタント)

株式会社クラボード

新規事業のためのシステムコンサルティングおよびシステム・アプリ開発で豊富な実績。ベンチャー企業での事業開発経験で培われた「提案力」を発揮し、ニーズに対応。経営者目線でIT戦略を導きます。

上村公彦プロは朝日新聞が厳正なる審査をした登録専門家です

関連するコラム

プロのおすすめするコラム

コラムテーマ

コラム一覧に戻る

プロのインタビューを読む

新規事業のシステム・アプリ開発に強いコンサルタント

上村公彦プロへの仕事の相談・依頼

仕事の相談・依頼