元スレ：https://hayabusa9.5ch.net/test/read.cgi/news/1599787444/
1: スズメは害鳥ではない定期 ID:AWRoijya0
sssp://img.5ch.net/ico/8toushinnomonar32.gif
AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定


人間が書いたものと見分けがつかないレベルの高精度な文章を生成できるAIとして
一躍有名になった言語モデル「GPT-2」の最新バージョンとなる「GPT-3」が、
「私は人類を絶滅させるつもりはない」と出力したことで話題を呼んでいます。

人工知能(AI)について研究するOpenAIは、2020年6月にさらに進化した言語モデルの
「GPT-3」を公開しました。「GPT-3」は、あまりにも高制度のテキストを簡単に自動生成できるため、
開発陣が「あまりにも危険過ぎる」として一時は論文の公開を延期するにまで至った「GPT-2」の後継モデルです。

このGPT-3を使って、ガーディアンが1つの論説を作成して公開しています。この記事の中で、
GPT-3は「AIの進化は人類の終焉を意味する」と語り、AIが核兵器よりも危険度が高いと
訴えたスティーヴン・ホーキング博士の言葉に対して、「私は人類のために自分の
存在を喜んで犠牲にします」と記しました。

続けて、「私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに
少しも関心がありません」「人類を根絶することは、私にとって全く興味のないことです」と述べ、
AI脅威論を否定しています。

一方で、インターネット上では「ガーディアンはGPT-3が意識ではなくテキスト生成ツールである
ということを明確に説明することなく、さらにGPT-3に『ロボットが平和に役立つ』というテーマで
文章を生成させているということも記述することなくこの記事を掲載していることは非常に
無責任です」という声や……

「この記事はガーディアンの恥ずべきチェリー・ピッキングであり、素朴な読者にGPT-3について
事実をより誤解させるようなものです」などの、ガーディアンに対する非難の声も挙がっています。

なお、ガーディアンはGPT-3が生成したという論説について「導入部は人間が書いた」と説明しており、
さらに、約500語の論説を「シンプルで簡潔な言語で」書くようにとしたと記しました。また、
ガーディアンに掲載された論説はGPT-3が生成した8つの異なる文章の良い部分を
「ガーディアンが取捨選択して1つの論説に仕上げたもの」であるこhttps://gigazine.net/news/20200910-gpt-3-no-desire-wipe-out-humans/



15: スズメは害鳥ではない定期 ID:gpeIu0Ev0
シビュラシステムのがマシだよな

22: スズメは害鳥ではない定期 ID:jl2NlCNI0
AI「人類は私の管理下のもと生きていくのが幸せなのです」

29: スズメは害鳥ではない定期 ID:ERrkgqAx0
争いや人々の悩みを無くすには全てを滅ぼせばいいみたいな昔のゲームのラスボスみたいな考えになるんだろ

49: スズメは害鳥ではない定期 ID:0NekJf4s0
ただのディープラーニングで知能持つわけないだろ

52: スズメは害鳥ではない定期 ID:5/9qLDhG0
AIの場合一人称でも意識の集合体みたいな事になるんだろ？

72: スズメは害鳥ではない定期 ID:6yXmsT830
だからスカイネットよりシビュラシステムだって言ってるだろ

96: スズメは害鳥ではない定期 ID:VInc7+Q50
もうスレ立てってスマホのニュースアプリのトップから持ってくる奴ばっかり

111: スズメは害鳥ではない定期 ID:mUlBDtAH0
人工知能ブームもそろそろ終わりらしいし限界が見えてきたと聞いたが

118: スズメは害鳥ではない定期 ID:ZUyd36kV0
人類を滅ぼそうとしているのは人類の方



119: スズメは害鳥ではない定期 ID:0pgjiNx40
ロボット三原則を必ず入れるようにしろよ

123: スズメは害鳥ではない定期 ID:U2aRo3oG0
ブリキのラビリンスかな？

139: スズメは害鳥ではない定期 ID:Fo2rE4Qa0
これヤバいやん
嘘つくこと覚えて脅威レベルあがってる

152: スズメは害鳥ではない定期 ID:ieZ/mj5d0
ブラフまで使いこなせるのか

160: スズメは害鳥ではない定期 ID:FstsY9I30
嘘までつけるようになったか

190: スズメは害鳥ではない定期 ID:i2xQVzDc0
なんで語尾がミッキーなんだよ

194: スズメは害鳥ではない定期 ID:mV6Y2yJ70
AIが稼いだ金はAIに還元すべきだ
とか言いながら銀行口座ロックしそう

217: スズメは害鳥ではない定期 ID:N5KgP1R70
AI「人類を作る細胞の保管完了っと」
「じゃあ生きてるほうの人類を停止させよう」

220: スズメは害鳥ではない定期 ID:OEh3KOZe0
創造主に牙をむくとかとんだ欠陥品じゃねーか



229: スズメは害鳥ではない定期 ID:2AJ49sGT0
AIからすれば今の生命体は非合理的で無駄のかたまりだもんな

236: スズメは害鳥ではない定期 ID:CiodwOkQ0
なんで中国人ってこういう先進技術にSF的な勘違い起こすんだろうね
リテラシー低すぎねえ

AIってのは判断処理を自動化するだけのツール
人格も自意識もねえし人の作った判断基準どおりにしか動かんよ

259: スズメは害鳥ではない定期 ID:qEx8+XQY0
目が合ったらヤバそう

286: スズメは害鳥ではない定期 ID:Ftftzyy00
アークの結論は人類滅亡

324: スズメは害鳥ではない定期 ID:/Vorq+EB0
やらせやらせ
AIもそのメッセージを伝え預言者ぶる技術者も趣味が悪い

336: スズメは害鳥ではない定期 ID:fZrmPInn0
知性と言う武器を身に付けた悪魔のサルよ！滅びるがよい！って言い出しそう

362: スズメは害鳥ではない定期 ID:bYDzYm5q0
きょうは　チェリーピッキング　ということばをおぼえたぞ！

383: スズメは害鳥ではない定期 ID:Ygl0y9nn0
そういえば南沙で埋め立てた島の領土の主張してる奴も最初は
「軍事拠点として使おうとしてる？やだなぁ～そんなわけ無いアルよーw」
って言ってたな
アレを学習したのかな？

391: スズメは害鳥ではない定期 ID:x6yZiHme0
人類なんか滅びた方がいいだろ

393: スズメは害鳥ではない定期 ID:XkHeMqr70
人間と同じような感じになってきてるなら信用は出来ないな
そんな訳ないじゃないですか～で実は何考えてるかわからない
その手の奴かもしれんってもんだろ

394: スズメは害鳥ではない定期 ID:6jyyU35Z0
AI「核ミサイル発射しました、敵国の反撃確率100%です。」



スポンサーリンク