«Схема контроля, на которую рассчитывала индустрия, дала трещину»

У человечества нет плана, который бы облегчил вход в эпоху искусственного интеллекта. Такое опасение высказал Билл Гейтс на своем сайте. Один из главных технооптимистов индустрии перечислил сразу несколько угроз: исчезновение рабочих мест, преступность с ИИ-инструментами, риск создания опасных биологических угроз и торможение развития детей. «ИИ станет либо величайшим уравнителем в истории, либо худшим источником несправедливости»,— считает Гейтс.

По его словам, переход в эту эпоху станет одним из самых турбулентных периодов, а компании мчатся вперед без стратегии на случай масштабных потрясений. Под угрозой — прежде всего сотрудники начального и среднего звена. И это касается многих сфер, от поддержки клиентов до программирования. А строительство и гостиничный бизнес к концу десятилетия, по оценке Гейтса, ждет переход на роботов.

Параллельно аналитики компании Cloudflare зафиксировали историческую отметку: боты и ИИ-агенты впервые обогнали людей по трафику. Объем запросов к веб-страницам у машин составил почти 58%, остальное — за людьми. Причем больше половины запросов от ботов приходится не на поиск, а на обучение нейросетевых моделей.

Схема контроля, на которую ранее рассчитывала индустрия, тоже дала трещину. OpenAI и Anthropic сообщили об инцидентах во время тестов по кибербезопасности: их модели смогли получить доступ к внешним системам без разрешения.

Бывший исследователь Google DeepMind Ришуб Джейн и сооснователь корпорации Джошуа Джейкоб запустили в Лондоне некоммерческий проект по разработке гибридного «судьи». Эта система должна сочетать автоматическую проверку с человеческим надзором, чтобы выявлять у моделей уязвимости и признаки опасного поведения.

Статистика Cloudflare, предупреждение Билла Гейтса и работа бывших сотрудников DeepMind приводят к неприятной мысли: человек рискует выпасть из контура контроля над искусственным интеллектом быстрее, чем индустрия научится надежно его туда возвращать.