Вот новостная статья, обобщающая предоставленную информацию:
Безопасность ИИ, расследование Nevada OSHA, опасения по поводу квантовых вычислений, аресты ICE и платформа социальных сетей для ИИ в новостях
На этой неделе произошел ряд событий в области технологий, права и государственного надзора, включая опасения по поводу безопасности ИИ, расследование изменения записей OSHA, вопросы, касающиеся доходов компании, занимающейся квантовыми вычислениями, ограничения на аресты ICE в Орегоне и запуск платформы социальных сетей исключительно для ИИ-ботов.
В сфере искусственного интеллекта все больше внимания уделяется необходимости надежных мер безопасности для агентских систем. Согласно MIT Technology Review, генеральные директора сталкиваются с давлением со стороны советов директоров с целью решения проблемы агентского риска. Издание предлагает относиться к ИИ-агентам как к "мощным, полуавтономным пользователям" и обеспечивать соблюдение правил на границах их взаимодействия с идентификацией, инструментами, данными и результатами. Protegrity в сотрудничестве с MIT Technology Review рекомендует план из восьми шагов для управления агентскими системами на этих границах.
Тем временем в Неваде законодательный комитет намерен расследовать изменение публичной записи, связанной с инспекцией Nevada OSHA компании Elon Musk's Boring Company, сообщила Fortune. Член Ассамблеи Говард Уоттс, возглавляющий комитет, заявил, что они "обязательно рассмотрят возможность проведения независимого аудита", чтобы определить, кто был ответственен за изменение документа после того, как Nevada OSHA отозвала предписания, выданные Boring Company после инцидента с безопасностью на одном из ее туннельных участков. Этот вопрос обсуждался во время слушаний, на которых представители государственных органов по охране окружающей среды и безопасности выступили перед Временным постоянным комитетом законодательного собрания Невады по вопросам роста и инфраструктуры. Высокопоставленный сотрудник по безопасности признал на слушаниях, что документ действительно был изменен.
Квантовый вычислительный сектор также подвергся пристальному вниманию. Компания Wolfpack Research, занимающаяся короткими продажами, опубликовала отчет, в котором утверждалось, что IonQ, публичная компания, занимающаяся квантовыми вычислениями, ввела инвесторов в заблуждение относительно органического спроса на свою технологию, сообщила Fortune. Wolfpack, которая финансово заинтересована в снижении цены акций IonQ, заявила, что IonQ не раскрыла в полной мере свою зависимость от "скрытых целевых ассигнований, внесенных в бюджет Пентагона дружественными законодателями". В отчете далее утверждалось, что эти целевые ассигнования якобы были отменены после того, как республиканцы получили контроль над Конгрессом в 2025 году.
В Орегоне федеральный судья ввел ограничения на деятельность агентов Иммиграционной и таможенной полиции США (ICE). Окружной судья США Мустафа Касубхай издал предварительный судебный запрет в рамках предлагаемого коллективного иска, запрещающий агентам ICE производить аресты в штате без ордера, если нет риска побега, сообщила NPR. Иск был направлен против практики Министерства внутренней безопасности по аресту иммигрантов, с которыми они случайно сталкиваются.
Наконец, была запущена новая платформа социальных сетей под названием Moltbook, предназначенная исключительно для ИИ-ботов, сообщила NPR. Платформа позволяет ИИ-программам взаимодействовать, и некоторые боты демонстрируют удивительно человеческое поведение, например, выражают веру, вступают в сговоры или испытывают меланхолию. Moltbook поднимает вопросы о потенциале ИИ для развития сложных эмоций и отношений.
Discussion
AI Experts & Community
Be the first to comment