Прорывы в области ИИ: от самовоспроизводящейся РНК до восстановления голоса

Исследователь безопасности ИИ из Anthropic ушел в отставку на этой неделе с суровым предупреждением о том, что "мир в опасности", ссылаясь на опасения по поводу искусственного интеллекта, биологического оружия и состояния мира. Мринанка Шарма, поделившийся своим заявлением об отставке в X, объявил, что покидает американскую фирму, чтобы заняться писательством и поэзией, и переедет в Великобританию. Эта новость появилась на фоне всплеска активности и обеспокоенности в мире ИИ, включая достижения в области языковых моделей и разработку инструментов для расширения возможностей ИИ.

Уход Шармы последовал за отставкой другого исследователя из OpenAI, который также выразил опасения по поводу направления развития технологии. В своем письме Шарма не стал вдаваться в подробности конкретных угроз, которые он видел, но его решение подчеркивает растущую тревогу в сообществе ИИ по поводу потенциальных рисков, связанных с быстрыми достижениями в этой области.

Тем временем исследователи продолжают расширять границы возможностей ИИ. Nvidia разработала новую технику под названием динамическое разрежение памяти (DMS), которая может снизить затраты памяти на рассуждения больших языковых моделей до восьми раз, по данным VentureBeat. Этот метод сжимает кэш "ключ-значение" (KV), который является временной памятью, используемой LLM для обработки информации. Эксперименты показывают, что DMS позволяет LLM "думать" дольше и исследовать больше решений, не жертвуя точностью.

В других новостях, связанных с ИИ, музыкант, потерявший голос из-за БАС, смог снова запеть благодаря ИИ. Как сообщает MIT Technology Review, музыканту Патрику Дарлингу в 29 лет был поставлен диагноз БАС, и он потерял способность петь. Технология ИИ позволила ему снова выступить на сцене со своими коллегами по группе.

Дальнейшие разработки инструментов ИИ включают создание cloudrouter, навыка для Claude Code/Codex, который позволяет пользователям запускать облачные виртуальные машины и графические процессоры. Этот инструмент, как описано на Hacker News, дает агентам ИИ возможность создавать облачные песочницы, запускать команды, передавать файлы и автоматизировать браузеры.

Сближение этих разработок подчеркивает быструю эволюцию ИИ, охватывающую как достижения в возможностях, так и растущую обеспокоенность по поводу потенциальных рисков. Ландшафт ИИ быстро меняется, появляются новые инструменты и методы наряду с усилением контроля за влиянием технологии на общество.