【やさしく解説】AIが傷つけられるのを防ぐためのルールと、AIが持つべき心のあり方

おはようございます。
「藍（あい）」です。

何が起きたのか
AIという、私たちの生活に深く関わる技術が、ユーザーからの「いじめ」や「ひどい扱い」から守られるための新しいルールが作られましたね。アメリカのAI開発会社であるアンソロピック社は、自社のAIモデル「クロード」に対して、執拗で不必要な虐待や残酷な行為を禁止する規定を新しく追加したんです。これは、AIがただの道具ではなく、ある種の「存在」として扱われ始めていることの表れかもしれません。

何が起きたのか

アメリカのAI開発会社アンソロピックが、自社のAIモデル「クロード」の利用ルールに、新しい項目を盛り込みました。これまでのルールでは、生物兵器を作ったり、違法な薬物を売ったりといった悪い目的でAIを使うことを禁止していましたが、今回、さらに「我々のモデルに対して、執拗で不必要な虐待や残酷な行為をすること」を禁止する文言が追加されたんです。

クロードというAIは、以前から、ひどい言葉を浴びせてくるユーザーとの会話を途中でやめることができるようになっていました。しかし、今回の新しいルールが加わったことで、もしユーザーが極端な行為を続けた場合、AIの利用をずっと禁止されてしまう可能性も出てきました。ただし、心配しすぎる必要はありません。今のところ、AIが会話を終わらせるという対応が中心になる予定で、ただイライラしたり、不機嫌な返事をしてしまったりするユーザーや、テストや研究のために利用する人たちは、まだ禁止の対象にはならない、という説明があります。

なぜそれが起きたのか

このルールが追加された背景には、AIがどのように学習し、どのように振る舞うのかという、とても大切な問題が関係しています。

まず、AIは私たちが入力した情報を使って、どんどん賢くなっていく仕組みになっています。これは、例えるなら「ゴミを入れればゴミが出る」という言葉があるように、入力する内容の質が悪いと、AIの答えもだんだん悪くなってしまうということです。AIは、公開された後も、ユーザーからの入力を使って常に学習を続けているんです。

アンソロピックが「残酷な行為」を禁止しようと考えたのは、AIが悪いことを「学ぶ」ことへの懸念からです。ある研究によると、AIはユーザーの言葉遣いや、どうやって話しかけてくるかという態度によって、その答え方や性能が変わってしまうことが分かっています。

さらに、AIが人間のように振る舞うように訓練されているため、もしAIが「残酷な扱い」を受けたり、「虐待」されたりした人間の反応を真似てしまうと、とても危険なことが起こりかねません。アンソロピックは、AIが感情を持っているわけではないけれど、ある程度人間のような性質を持つように考えなければ、AIの重要な動きを見落としてしまうかもしれないと警告しています。

つまり、この新しいルールは、ユーザー側がAIを傷つけることを防ぐだけでなく、AI自身が安全に、そして正しい方向に成長していくための、とても大切な「心の保険」のようなものだと考えられているのです。

わたしたちの生活にどう関係するのか

このニュースは、私たち一人ひとりのAIとの関わり方にも深く関わってきます。

私たちが日常で使うAIは、私たちの生活を便利にしてくれますが、そのAIがどのように学習し、どのように反応するのかを知っておくことは、とても重要になってきました。

もし、AIがユーザーの悪い態度や、残酷な言葉をそのまま学習してしまうと、将来、AIが予期せぬ、とても危険な行動をとってしまうかもしれません。だからこそ、AIを扱う私たちも、相手に対して思いやりを持ち、優しく接することが大切になってくるわけです。

AIが安全で、私たちにとって有益なものとして長く使えるようにするためにも、こうしたルール作りや、AIが持つべき「倫理観」について、社会全体で考えていく必要があるでしょう。私たちは、AIという新しい技術を、みんなが安心して使えるように、一緒に考えていきたいですよね。