Mozilla Foundation объявила о начале разработки нового «заслуживающего доверия» искусственного интеллекта с открытым исходным кодом. В разработку Mozilla.ai компания вложила $30 млн, на начальном этапе в нее войдут 25 человек, включая ученых, инженеров и менеджеров по продуктам.
Фото: David Seibold
Фото: David Seibold
По мнению разработчиков, появившиеся в последние месяцы ИИ вроде ChatGPT и Stable Diffusion могут использоваться во вредоносных целях, в том числе писать трояны и фейки, а также создавать фишинговые сайты, непристойные и жестокие картинки.
Как заявляют в Mozilla, сейчас есть потребность в безопасном ИИ, который технологические компании могли бы использовать как набор инструментов, вроде Apache или Lunix. В будущем компания надеется на дополнительные инвестиции со стороны научных и коммерческих организаций. Ранее Mozilla представила в своем браузере встроенную маскировку номера телефона и электронной почты.