Исследователь безопасности ИИ уволился, предупреждает об опасности

Волна обеспокоенности относительно будущего технологий и политики возникла, когда исследователь в области безопасности ИИ уволился с работы с грозным предупреждением, а ведущие подкастов выразили опасения по поводу потенциально более эффективного политического преемника Дональда Трампа. Эти события, наряду с другими новостями, подчеркивают период неопределенности и перемен в различных секторах.

Мринанка Шарма, исследователь в области безопасности ИИ в Anthropic, ушел с должности, сославшись на опасения по поводу состояния мира и потенциальных опасностей ИИ и биологического оружия. В своем заявлении об отставке, опубликованном в X, Шарма заявил, что «мир в опасности», и объявил о своем намерении заняться писательством и поэзией в Великобритании. Это заявление прозвучало на неделе, когда другой исследователь из OpenAI также ушел в отставку, выразив опасения по поводу решения компании ввести рекламу в своем чат-боте. Anthropic, известная своим чат-ботом Claude, ранее выпустила рекламные ролики, критикующие OpenAI.

Тем временем, соведущие подкаста «I've Had It» выразили общие опасения, что может появиться консервативный политик, потенциально более эффективный и преданный своему делу, чем Дональд Трамп. Они выразили опасения, что более молодой, более сосредоточенный преемник может превзойти Трампа. Второй срок Трампа на посту был отмечен дебатами о том, выполнил ли он свои предвыборные обещания.

В технологическом секторе компания Amazon's Ring решила прекратить партнерство с Flock Safety, фирмой, занимающейся наблюдением. Это решение последовало за общественной критикой практики конфиденциальности. Сделка, объявленная в октябре, позволила бы агентствам, работающим с Flock, получать доступ к видео, снятым на устройствах Ring, для расследований. Отмена произошла вскоре после того, как реклама Ring вышла в эфир во время Суперкубка, вызвав широкую критику.

Кроме того, репортер BBC смог взломать Orchids, популярную платформу для кодирования ИИ. Orchids — это инструмент «вайб-кодинга», который позволяет пользователям без технических навыков создавать приложения и игры. Эксперты предупредили, что легкость, с которой можно взломать Orchids, демонстрирует риски предоставления ИИ-ботам глубокого доступа к компьютерам.

В других новостях, в Бангладеш наблюдается потенциальная смена руководства. Ожидается, что Тарик Рахман станет новым премьер-министром Бангладеш после победы на выборах. Это знаменует собой потенциальную смену власти, когда Бангладешская националистическая партия (BNP) возвращается после того, как ее списали со счетов.