新たな技術的負債「AI生成のごみデータ」とは？

下記のような記事を見つけました。
https://news.yahoo.co.jp/articles/5e378582546f9012bbac2b35ef5b2d89ab93c902?page=1

簡単に言えば質の悪いAI使用データがたまるとそれを学習してしまい、間違ったデータを提示するという内容です。

細かい混入経路や対応などは記事を見ていただければと思いますが、他の記事でもお伝えした通り
その出力されたものが正しいかどうかを判別できない場合のリスクとも考えられます。

システム開発でもAIを使っておりますが、一見正しいように見えてセキュリティの問題であったり、
非効率なコードを出力してもそれを判断できなければ大きなリスクとなりうるということになります。

私自身AIを使って文面考えたり、情報収集したりしておりますので、便利さは享受していると思います。
ただ、それが本当に正しいのか表現として問題ないのかはやはり精査はします。

AIは統計学と以前のコラムでも書いた通り、ある程度の情報がなければ正しいものは出せませんが、
今回の記事のように無駄なものが多ければそれはそれで正しいものが出せません。

このデータの取捨選択を誰がどのようにするのか。所謂エンジニアではない人たちにそれを求めるのは
酷であると思います。
先日のコラムで新人にはAIを使わせないというお話を書きましたが、結局同じような結論になるのだと思います。

どんなに便利でもどんなに見栄えがよくても結局人間の確認は必ず必要です。
最初の情報収集や意見だしなどは格段に楽になりましたが、意思決定に関しては任せられません。

別記事でも改めて書く予定ではありますが、自信満々に間違った情報を出してくるのもAIです。
必ず正しいものを展開されると思うのは非常に危険です。

あくまで自分の考えをまとめるツール、もしくは単純作業をさせるツールとして利用し、
考える必要がある部分はたたき台は作らせるにしても仕上げは人間がやるものとして
上手く付き合えればと思います。

弊社として使わなければ今の状況でおいていかれるのも事実です。そのため使うこと自体は問題ありません。
ただ、その使い方というのは今後大きな課題になると思うので、そこは今後精査していきたいと思います。