暗号化メッセージングアプリSignalの開発者であるMoxie Marlinspike氏が、新たなプロジェクト「Confer」で人工知能に注目しています。Conferは、ユーザーデータを保護するように設計されたオープンソースのAIアシスタントです。Conferは、ユーザーデータがプラットフォーム運営者、ハッカー、法執行機関、またはアカウント保持者以外のいかなる当事者にも読み取られないことを保証することを目指しています。

このサービスは、大規模言語モデル（LLM）やバックエンドコンポーネントを含め、すべてオープンソースソフトウェア上で動作し、ユーザーは暗号的にその完全性を検証できます。ユーザーからのデータや会話、およびLLMの応答は、トラステッド・エグゼキューション・エンバイロメント（TEE）内で暗号化されます。この暗号化により、サーバー管理者でさえデータにアクセスしたり、改ざんしたりすることを防ぎます。Conferは、会話を同じ暗号化された形式で保存し、ユーザーのデバイス上に安全に保持されるキーを利用します。

Conferの基盤となるメカニズムは、Signalのアーキテクチャと同様に、エレガントさとシンプルさを追求して設計されています。Signalは、強力な暗号化をアクセスしやすく、ユーザーフレンドリーにすることで、エンドユーザー向けプライバシーツールの新たな標準を確立しました。Marlinspike氏のConferにおける目標は、データプライバシーとセキュリティへの懸念が高まっているAIの分野で、この成功を再現することです。

Conferの開発は、AIチャットボットが日常生活にますます統合されている時期に行われています。これらのAIシステムは、多くの場合、大量のユーザーデータを収集および処理するため、潜在的な悪用や不正アクセスに対する懸念が高まっています。TEE内の暗号化は、機密データを処理するための隔離された安全な環境を作成するセキュリティ対策です。これにより、メインシステムが侵害された場合でも、TEE内のデータは保護されたままになります。

Conferのアプローチの影響は、個人のプライバシーにとどまりません。AIシステムがユーザーデータにアクセスしたり、悪用したりできないようにすることで、ConferはAIテクノロジーへの信頼を高め、より広範な採用を促進する可能性があります。これは、データプライバシーが最も重要なヘルスケア、金融、法律サービスなどの機密性の高い分野で特に重要です。

Conferの現在のステータスは開発中で、Marlinspike氏と彼のチームは、システムの改良と機能の拡張に取り組んでいます。このプロジェクトのオープンソースの性質により、コミュニティの貢献とセキュリティに関する主張の独立した検証が可能になります。将来の開発には、他のアプリケーションやサービスとの統合、およびAIモデル自体の機能強化が含まれる可能性があります。