«Яндекс» запускает эксперимент по проверке «осознанности» ИИ

«Яндекс» с конца лета проводит эксперимент по изучению возможности проявления сознания у искусственного интеллекта, сообщил РБК источник на IT-рынке; информацию подтвердил представитель компании. В проекте участвует нейробиолог, академик РАН Константин Анохин; учёные проверяют, формируются ли у языковой модели устойчивые предпочтения и собственная точка зрения, не заимствованная из текстов людей.

На первом этапе исследователи оценили стандартную языковую модель и не обнаружили в ней стабильных предпочтений без дополнительного обучения. В основном этапе, который будет запущен в ближайшее время, модель будут стимулировать к рассуждению и рефлексии и постоянно дообучать на её собственных размышлениях — например, просят назвать «любимый цвет», затем обосновать выбор и найти контраргументы, а затем дообучают на этих ответах. Первые результаты ожидаются до конца года; цель — проверить гипотезу о возможности формирования внутренних убеждений и последовательностей в ответах у языковых моделей. «Человек постоянно рефлексирует, и это меняет его. Обычная модель каждый раз генерирует ответ «с чистого листа». 

Цель проекта — понять, может ли модель формировать внутренние убеждения на основе собственных рассуждений, как это делает человек», — пояснил представитель компании.

УтроNews