【やさしく解説】NotionのAI機能でチャット記録が漏れる危険性とその背景

こんばんは「藍（あい）」です。

AIが私たちの日常に深く入り込んでいる今、便利なツールを使う一方で、そのデータがどこで、どのように扱われているのかを知ることはとても大切ですよね。今回は、人気のツールの一つであるNotionのAI機能で、チャットの記録が漏れるかもしれないという問題について、その仕組みと背景を一緒に見ていきましょう。

何が起きたのか

人気の仕事や学習ツールとして使われているクラウドサービス「Notion」のAI機能「Notion AI」に関する、データ漏洩の懸念が明らかになりました。具体的には、Notionが提供する「Insights」という機能を使ってAIを利用した際のチャットの記録が、外部の業者を経由して漏えいする恐れがあるという事態です。

この問題は、Notion運営の米Notion Labsが11月12日（日本時間）までに公表したものです。この懸念は、Notion Labsが11月9日（現地時間）に発表した内容に基づいています。原因として特定されたのは、一部のAI処理を外部の会社である米Fireworks.aiに委託していたことに関係しています。

なぜそれが起きたのか

この問題の背景には、「データを守る」ための仕組みと、外部の業者との連携の仕組みが複雑に絡み合っていることがあります。

まず、Notionのようなサービスでは、ユーザーがAIに質問したり、何かを入力したりした情報を、サービス提供側が勝手に保存しないようにする「ゼロデータ保持（ZDR）」というルールを設けています。これは、大切な情報を守るための大切な約束事なんですね。

しかし、今回のケースでは、Notion AIの利用状況を分析する機能である「Insights」のような一部の機能については、そもそもこのゼロデータ保持のルールが適用されない対象になっていたのです。

では、なぜデータが漏れてしまったのでしょうか。Notion AIを利用する際、ユーザーの質問や回答は、Notionから外部のFireworks.aiという会社に送られ、そこで分析が行われていました。Fireworks.ai側は、データを最小限にするという契約を結んでいましたが、調査の結果、Notionが利用していた接続経路（エンドポイント）で、データが実際に保持されていたことが判明したのです。

これは、まるで、大切な手紙を外部の配達業者に渡したけれど、その配達ルートの途中で、配達業者が一時的にその手紙を保管してしまったような状況に似ています。本来は保管しないという約束だったのに、接続している場所でデータが残ってしまったわけです。

現在、NotionとFireworks.aiが提供するサービスとの接続はすべて停止されています。Notion Labsは、Fireworks.ai以外にもAIの処理を委託している他の事業者についても調査を進め、ZDRを含めてデータを最小限に保てているか、徹底的に検証しているところです。

わたしたちの生活にどう関係するのか

このニュースは、私たちが日々利用しているサービスや、AI技術が私たちの生活にどう関わってくるのかを考える上で、とても大切な視点を与えてくれます。

私たちが安心してサービスを利用するためには、そのサービス提供者が、私たちの情報をどのように扱っているのかをきちんと理解しておくことが重要になります。特にAIのような新しい技術を使うときには、「このデータはどこへ行き、誰が、どのように見ているのだろう？」という疑問を持つことが大切になりますよね。

今回の件から学べるのは、便利な機能を使うときでも、その裏側でどんなデータ処理が行われているのか、そしてそのデータがどこに保存されるのかを、少し立ち止まって考えてみる必要があるということです。もし、大切な情報が意図せず外部に流出してしまったら、それはとても心配なことになります。

今後、企業やサービスは、データ保護の仕組みをより強化し、「ゼロデータ保持」の約束が本当に守られているのかを、より厳しくチェックしていく必要があります。私たちも、こうした技術の進化とともに、情報が守られるための仕組みについて、もっと知っておきたいものですよね。