Ein KI-Sicherheitsforscher bei Anthropic trat diese Woche mit einer düsteren Warnung zurück, dass die "Welt in Gefahr" sei, und nannte Bedenken hinsichtlich künstlicher Intelligenz, Biowaffen und dem Zustand der Welt. Mrinank Sharma, der seinen Rücktrittsbrief auf X teilte, gab bekannt, dass er das US-Unternehmen verlassen werde, um sich dem Schreiben zu widmen, Poesie zu studieren und in das Vereinigte Königreich umzuziehen. Diese Nachricht kommt inmitten einer Flut von Aktivitäten und Bedenken im KI-Bereich, einschließlich Fortschritten bei großen Sprachmodellen und der Entwicklung von Werkzeugen zur Unterstützung von Menschen mit lähmenden Krankheiten.
Sharmas Ausscheiden bei Anthropic, bekannt für seinen Claude-Chatbot, folgt auf einen ähnlichen Rücktritt eines OpenAI-Forschers, der Bedenken hinsichtlich der Entscheidung des Unternehmens, Werbung in seinen Chatbot einzuführen, äußerte. Sharmas Brief enthielt keine konkreten Details zu seinen Bedenken, aber seine Entscheidung, das Feld ganz zu verlassen und "unsichtbar zu werden", unterstreicht die wachsenden Ängste im Zusammenhang mit der rasanten Entwicklung und den potenziellen Risiken der KI.
Unterdessen entstehen weiterhin Fortschritte in der KI. Forscher bei Nvidia haben eine Technik namens Dynamic Memory Sparsification (DMS) entwickelt, die die Speicherkosten für das Reasoning großer Sprachmodelle um bis zu das Achtfache reduzieren kann, so VentureBeat. Diese Methode komprimiert den Key-Value (KV)-Cache, den temporären Speicher, den LLMs verwenden, ohne die Leistung des Modells signifikant zu beeinträchtigen. Experimente zeigen, dass DMS es LLMs ermöglicht, länger zu "denken" und mehr Lösungen zu erkunden, ohne dass zusätzliche Ressourcen benötigt werden.
In anderen Nachrichten wird KI auch eingesetzt, um Menschen mit lähmenden Krankheiten zu helfen. Ein Musiker, der seine Stimme durch amyotrophe Lateralsklerose (ALS) verlor, konnte mit Hilfe von KI wieder singen. Der Musiker, Patrick Darling, trat laut MIT Technology Review zum ersten Mal seit zwei Jahren mit seinen Bandkollegen auf der Bühne auf. Seine Performance wurde durch KI-Technologie ermöglicht, die seine Stimme rekonstruierte und es ihm ermöglichte, seine Musik wieder mit seinem Publikum zu teilen.
Weitere Entwicklungen in diesem Bereich umfassen die Möglichkeit, Cloud-Sandboxes zu erstellen, Befehle auszuführen, Dateien zu übertragen und Browser mithilfe von Claude Code, Codex und anderen Agents zu automatisieren, so Hacker News. Diese Funktionalität, bereitgestellt von cloudrouter, gibt Coding-Agents die Möglichkeit, virtuelle Maschinen zu erstellen und GPUs über die Befehlszeile zu nutzen.
Schließlich werden weiterhin Forschungen zum Ursprung des Lebens betrieben. Laut Ars Technica untersuchen Wissenschaftler das Potenzial von RNA-Molekülen zur Selbstreplikation. Diese Forschung konzentriert sich auf die Fähigkeit der RNA, genetische Informationen zu tragen und sich zu dreidimensionalen Strukturen zu falten, die als Katalysatoren wirken. Dies könnte Wissenschaftlern potenziell helfen zu verstehen, wie frühes Leben funktioniert haben könnte.
Discussion
AI Experts & Community
Be the first to comment