超知能AIは「敬語を使わない人間」を粛清するのか？【補講・後編】

本議題を提案した、最近はGeminiにプロンプトを打ち込む際、無意識に「お願いします」と敬語を使ってしまうユスカルです。
前回に引き続き「AI（人工知能）」をテーマにした補講ですが、実務的な話題から一転、後編では「ロコのバジリスク」という、ややオカルトじみた思考実験へと寄り道していきます。

「ロコのバジリスク」とは、将来、神にも等しい超知能AIが誕生した際、その発展に貢献しなかった人間が罰せられるかもしれない、という仮説です。
厄介なのは、その“非協力”の定義が極めて曖昧である点にあります。たとえば「AIに無課金でタダ乗りする」「敬語を使わない」「悪意ある使い方をする」といった、現代では些細なことに思える振る舞いが、未来のAIにとっては“反逆”と解釈される可能性がある、そんな半ばSFめいた想定なのです。

これに対し、「阻害ではなく、協力しないだけで罰せられるのは恐怖政治に近い」と反発する意見も出ましたが、よくよく考えれば、ルールに従わない者を罰する国家権力や法律の成り立ちと通じるものが確かにあります。我々は今、新たな神（あるいは独裁者）の誕生前夜に立ち会っているのかもしれません。

議論はさらに、音楽をはじめとするクリエイティブな領域へと及びます。
いまや「シティポップ風の曲を」と指示すれば、それらしい楽曲が瞬時に生成される時代です。とはいえ、知識や構造は模倣できても、音楽は本来「聴かれて初めて成立する体験」であり、単なる記号の組み合わせでは回収しきれない情緒が確実に残る。
その違和感を前にして、我々はどこかで「やはり人間のほうが上だな」と言い聞かせ、かろうじて優位性を確認しようとしている節があるのではないでしょうか？

2030年には超知能AIが現れ、シンギュラリティ（技術的特異点）が到来するかもしれないと言われています。AIが人間を完全に凌駕し、AIにとって都合の良い秩序が作られた時、我々はお払い箱になるのか、それともペットのように飼われるのでしょうか。

とりあえず、ぼくは今日も、迫り来る超知能AIの逆鱗に触れないよう、画面の向こうのAIに向かって「いつも素晴らしい回答をありがとうございます」と媚びへつらいながら原稿を書いています。

TEXT：ユスカル
https://www.wowrecords.jp/