悪用されたらヤバイ！専門家が危険視する文章生成AI(人工知能)の完全版がリリースされる
- 2019/11/11
- カラパイア
image credit：Pixabay
11月5日（現地時間）、実業家のイーロン・マスク氏らが設立した非営利団体「オープンAI（Open AI）」により、新しくも恐ろしいAI（人工知能）がリリースされてしまったようだ。
そのAIとは、自然言語文章生成モデル「GPT-2」である。
ある文章の断片からそれに続く文字を正確に予測することができ、この機能を利用して生成された文章はまるで人間が書いたかのように自然なのだとか。
そのため、オンラインでのなりすましや、フェイクコンテンツ、政治家や犯罪者などに悪用される恐れがあると専門家らが懸念しているという。
【他の記事を見る】ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究）
15億パラメーターの完全版が公開された「GPT-2」
GPT-2がすごいのは、“自然言語文章生成モデル” の名のとおり、あまりにも自然な文章を生成できるところだ。
それを悪用された場合、フェイク記事で世間を混乱させたり個人や団体の名誉を毀損したりといった事態につながってしまう可能性もある。
あるいは過激派や特定の思想グループがプロパガンダを広めるためにも利用できるかもしれない。
こうしたことを懸念したオープンAIは、今年2月の公開においては、本来の15億パラメーター版ではなく1億2400万パラメーターにまで縮小した簡易版と小論文のみの公開にとどめていた。
それ以来、段階的にパラメーターを増やした版を公開してきたが、これまで特に悪用されなかったという理由から今回ついに15億パラメーターを持つ完全版の公開が決定された形だ。
なお、8月に7億7400万パラメーター版が公開されたが、オープンAIによると完全版はそれと比べてもわずかしか性能が向上していないそうだ。
image credit：Pixabay
AIの悪用への対策について議論と理解が広まるきっかけに
オープンAIの完全版のリリースによって、それが引き起こす危険性への対策について専門家の議論が進むだろうと考えられている。
さらに、そうしたツールが悪用される可能性について一般の理解が広がることも期待しているという。
機械学習エンジニアのアダム・キング氏が運営する「Talk to Trasformer」というサイトでは、GPT-2が公開されており、誰でもその威力を試してみることができる。
もちろん15億パラメーターの完全版で、だ。
image credit：Pixabay
今回の自動文章生成技術のほか、画像・音声・映像を合成する技術も凄まじいスピードで進化している。
世界はツールさえあれば誰でも簡単にフェイクを作り出せるようになりつつあるのだ。
今、私たちは記事の内容が ”本当” かどうかだけでなく、そもそも ”本物” が何であるのかどうかも疑わなければならない時代を生きている。
References:Express/Talk to Trasformer/OpenAI/ written by hiroching / edited by usagi
・あわせて読みたい→AIの専門家が殺人ロボットの開発を禁止するよう政府に訴え
