|
AIの問題は、偏見をもつということです。AIの訓練する手間からもわかるように、データ入力が不十分な分野ではAIは十分に機能しないどころか、誤った結果を出して悲惨なことになってしまうのです。例えば、皆様は意識していないと思いますが、現在AIの開発の大部分は英語圏でなされており、入力されるデータは英語圏のものになります。
つまり日本語やタイ語、トンガ語、モンゴル語、フランス語、カザフ語などの地域の人々の言語は入力されていません。そのため英語圏以外の人々の行動データや画像、動画なども入力されにくくなっています。こうしてデータが偏れば、AIが意図せずに偏見のある、または差別的な応答を生成する可能性が高くなります。
入力されるデータが偏るので、情報量や網羅性も低くなる点も問題です。例えば、ChatGPTは日本の中世における和歌の意味を正しく理解することができません。ボツワナの経済史に関する回答も間違いだらけで、基本的な経済学の回答もメチャクチャです。
少々ニッチな情報は正しく出力することができません。これも入力されるデータに偏りがあるからです。さらにデータがいつ作成されたものか、その時代やタイミングに合っているか、ということも検証できません。そしてまた自然言語解析が、入力された単語や文章を本当に正しく理解しているか、ということも確認することができないのです。
しかもユーザーは、AI提供企業がどんなアルゴリズムを使ってどんなデータを入力しているか、などがわからないのです。今のAIは文脈を読み取るとか、細かい微調整をすることが苦手です。AIの代表格のChatGPTはなんとなくフレンドリーで共感してくれる答えを出しそうに思われますが、微妙および複雑な感情の動きに対応できません。
現状ではプロの作家やアニメーター、音楽家、セラピストの代わりになることがほぼできないのです。特定の目的に対して出力を期待する場合は、ケースごとに微調整も必要になります。
例えば「商品パッケージの中で『スラムダンク』の初期の絵柄に似たものが好きな顧客が好むものを選ぶ」というタスクは、目的が一般的ではなく特殊なためAIが妥当な絵柄を選ぶように細かく調整する必要があります。その手間暇はかなり大変です。
さらにAIは微調整が得意ではないので、ChatGPTでは誤字、文法エラー、スペルミスに対する感度が限られています。文脈や関連性の観点から完全に正確でない文章を生成することがあります。特に英語以外の言語ではこれが難しいのです。
|
|