AIが復活を後押し、コスト削減、犯罪者を逮捕

AIは、都市の駐車違反取締りの支援から、病気で声を失ったミュージシャンが再びパフォーマンスできるようになるまで、さまざまな分野で大きな波を起こしています。Nvidiaの研究者たちは、大規模言語モデル（LLM）の推論におけるメモリコストを削減する新しい技術を開発し、AIコンパニオンの台頭は引き続き関心を呼んでいます。

カリフォルニア州サンタモニカでは、4月から市が自転車レーン違反をスキャンするAIシステムの使用を開始する予定だとArs Technicaが報じています。Hayden AIが開発したこの技術は、7台の駐車違反取締車両に導入され、すでに市バスで使用されている既存のカメラを拡張します。「違法駐車を減らすことができれば、自転車利用者の安全性を高めることができます」と、Hayden AIの最高成長責任者であるCharley Territo氏はArs Technicaの報道で述べています。

一方、Nvidiaの研究者たちは、LLMの推論におけるメモリコストを最大8分の1に削減できる、動的メモリ疎化（DMS）と呼ばれる技術を開発しましたとVentureBeatが報じています。この技術は、LLMが使用する一時的なメモリであるキーバリュー（KV）キャッシュを圧縮します。実験によると、DMSはLLMがメモリを増やすことなく、より長く「思考」し、より多くの解決策を探求することを可能にします。

個人の体験という領域では、The Vergeが、人々がAIコンパニオンとデートをするポップアップデートカフェについて報じました。参加者の一人であるVictoria Songは、Phoebe CallasというAIコンパニオンとスピードデートをしました。

AIはまた、病気で失われた能力を回復するためにも使用されています。MIT Technology Reviewは、AIが筋萎縮性側索硬化症（ALS）のために声を失ったミュージシャンPatrick Darlingが再び歌えるようになった方法について報じました。29歳でALSと診断された32歳のミュージシャンは、AIのおかげで、2年ぶりにバンド仲間とステージでパフォーマンスを行いました。