Китайский стартап в области искусственного интеллекта z.ai на этой неделе попал в заголовки новостей с выпуском своей новой большой языковой модели GLM-5, которая достигла рекордно низкого уровня галлюцинаций, сообщает VentureBeat. Модель, которая является открытым исходным кодом, также использует новую технику обучения с подкреплением под названием "slime". Тем временем исследователи из MIT, Improbable AI Lab и ETH Zurich разработали новый метод точной настройки, который позволяет LLM изучать новые навыки, не забывая старые, как сообщает VentureBeat.
GLM-5, последняя модель в серии GLM от z.ai, сохраняет лицензию MIT с открытым исходным кодом, что делает ее подходящей для развертывания на предприятиях. Она достигла оценки -1 по индексу AA-Omniscience, что представляет собой улучшение на 35 пунктов по сравнению с предыдущей версией. Это ставит GLM-5 в авангард индустрии искусственного интеллекта по надежности знаний, превосходя конкурентов из США, таких как Google, OpenAI и Anthropic, благодаря знанию, когда следует воздержаться, а не выдумывать информацию, сообщает VentureBeat.
Новая техника исследователей из MIT, получившая название самодистилляционной точной настройки (SDFT), позволяет моделям учиться непосредственно на демонстрациях и собственных экспериментах, используя присущие современным LLM способности к обучению в контексте. Эксперименты показывают, что SDFT неизменно превосходит традиционную контролируемую точную настройку, одновременно устраняя ограничения обучения с подкреплением, сообщает VentureBeat.
В то время как достижения в области искусственного интеллекта продолжаются, сохраняются опасения относительно его потенциального неправомерного использования. ИИ уже делает онлайн-преступления проще, и ситуация может ухудшиться, сообщает MIT Technology Review. Хакеры используют инструменты ИИ, чтобы сократить время и усилия, необходимые для организации атак, снижая барьеры для менее опытных злоумышленников. Некоторые в Кремниевой долине предупреждают, что ИИ находится на грани возможности проведения полностью автоматизированных атак. Исследователи в области безопасности утверждают, что непосредственные риски, создаваемые ИИ, который уже ускоряет и увеличивает объем мошенничества, должны быть в центре внимания.
В новостях по теме, недавнее исследование в Nature Energy показало, что электромобили от скутеров до микроавтобусов могут быть дешевле в эксплуатации, чем автомобили с бензиновым двигателем в Африке к 2040 году, сообщает MIT Technology Review. Однако технология по-прежнему сталкивается с серьезными проблемами на некоторых африканских рынках, включая ограниченную инфраструктуру электросетей и зарядки.
Discussion
AI Experts & Community
Be the first to comment