NI.Aの雑記

MetaのAIでアジア人が一時生成不可に、「アジア人と白人のカップル」を出力できない問題で
https://gigazine.net/news/20240405-meta-...

　AIの難しいところは「±1σの世界の住人」であるところな気がする。±1σというのは統計の用語でガウス分布のピークから標準偏差σの分だけ左右に広がった幅の部分を指して、全体の約68％を含む部分。AIはその学習から結果を導くわけだけど、学習した時のソースはより広範なものから学ぶほどに統計的な平均に近づいていくし、何かしらのものの出現頻度からも人類が思う平均であったり普通という概念が強くなっていく。
　アジア人と白人のカップルというのは「一般的」ではないからこそAIが出力できるか確認されるし、AIは「一般的」ではないから簡単にはその出力ができない。AIにこだわった内容のものを出させるには、あれこれと手を加えてやらなければならなくて、「±1σ」の68％に入らないものをAIに出させるのは難しいのだろう。
　ほとんどの人は「±1σ」の世界で生きているし、だからこそAIの出力で問題になるのはそういう人たちが疑問に思わないような専門的だったり個人的だったりするようなものになっているんじゃないだろうか。そして、こだわりのない人たちがAIの出力で満足しているのも、AIイラストやAI小説でよく見る場面になった。
　いずれはもっと優れたAIが生まれて「±2σ（95％）：統計的に有意」だったり、もしかしたらそれよりもはるかに広い範囲の値まで正確に答えられるようになるのかも知れない。でも、今は無理だろう。良くも悪くも「常識的」な±1σな世界の住人たちのツールが、今のAIだと思う。今のレベルのAIが世界中に広まるなら、その「常識」の範疇だけが正しい世界だと思う人間を増やして差別や嘘が蔓延するようにさえ思う。「常識的」な人間が傲慢で頑ななのは、そこから外れたことがある人なら分かることだと思うし、その頑なさをAIが克服できなければ人類のパートナーとしてのAIは達成できないだろう。シンギュラリティなんてはるか彼方の話だ。
　AIはクリエイティブに使えると言われているけれども、今の時点ではあくまで補助ツールとしてだ。発想そのものを完全にAIで置換するとしたら、「±1σの世界の住人」のままでは使い物にならないだろう。猿にシェイクスピアを打たせるように、そのランダムな出力に面白さを見出すことはできるけれども、その面白いという発想をしているのは、まだ人間なのだ。

AIについてはこういう記事も出ていた。

AIで鮮明にした動画は裁判で証拠にならない--ワシントン州で裁定
https://japan.cnet.com/article/35217410/
Leroy McCullough判事はこの裁定について説明する中で、AI技術は「見せるべき」と捉えたものを見せるために不透明な方法を用いており、陪審員を混乱させ、目撃者の証言を損なう可能性があるとの懸念を示した。また、この動画を証拠として採用した場合、「AIモデルが使用する査読不可能なプロセス」をめぐり、長時間の審理につながる可能性があるとした。
　きらびやかに登場した万能機械だったAIだが、果たして人間の信頼を得られるものになるかどうかは、開発者はもとより使う側の責任でもあると思う。
　誰かが思う68％の「正しさ」の外にある真実をAIとそれを使う人間が導き出せるか、否か。