Греф рассказал о поиске баланса между свободой ИИ и контролем над ним
Современные нейросети вышли на новый виток автономии и иногда способны работать вовсе без вмешательства человека. В случае нехватки актуальной информации машины «подсасывают» данные из интернета, у других машин. Над контролем этого процесса в «Сбере» работают тысячи человек, рассказал глава компании Герман Греф в интервью Андрею Колесникову для журнала «Русский пионер».
Глава «Сбера» Герман Греф
Фото: Алексей Смагин, Коммерсантъ
Глава «Сбера» Герман Греф
Фото: Алексей Смагин, Коммерсантъ
По его словам, в банкинге уже можно построить многие функции автономно. Сегодня во все модели встроен «ризонинг» — демонстрация цепочки рассуждений. Благодаря этому мы видим, как машины, упираясь в ложный путь, начинают идти по другому пути решения. Благодаря этому, объясняет Герман Греф, можно увидеть, как «удивительны» порой попытки машин симулировать работу человеческого мозга.
Актуальный промпт-инжиниринг закладывает в нейросетях пространство для взаимодействия по принципу «машина–машина», в котором робот по сути обретает субъектность. В мультиагентской системе роботы «говорят» друг с другом в попытках найти оптимальный алгоритм решения задачи, а существующая над ними LLM-модель конструирует работу, вынимая из «диалога» машин наиболее сильные аргументы.
Глава «Сбера» подчеркнул, что любые ограничения лишь мешают нейросетям, делают их решения менее оптимальными. Тем не менее в компании ищут баланс. «Мы резко нарастили сейчас количество людей, которые занимаются безопасностью искусственного интеллекта», — рассказал господин Греф. Согласно его словам, 50 человек «занимаются думанием», несколько тысяч — созданием.
Герман Греф также рассказал, что на данный момент отставание «Сбера» по разным моделям составляет «максимум полгода–год».