В отчетах аудиторской фирмы PwC обнаружили сфабрикованные ИИ данные
В подготовленных для ближневосточного офиса докладах компании PwC, входящей в «большую четверку» аудиторских фирм, обнаружили многочисленные ошибки ИИ. Среди них — вымышленные сноски, неверные ссылки и неподтвержденные или сфабрикованные данные. Об этом сообщает сообщает Financial Times (FT). Речь идет об отчетах PwC Middle East, выпущенных за последние два года, включая руководства по автономным ИИ-ботам и прогнозы для рынка электромобилей. Ошибки выявили исследователи из GPTZero, а затем проверили в FT.
В PwC Middle East заявили, что «серьезно относятся к точности публикуемых исследований» и уже обновляют часть ссылок в отчетах. Однако в компании не объяснили, как ошибки попали в заключительные версии.
Инцидент, как пишет газета, «ставит под удар репутацию PwC как консультанта по внедрению ИИ, ведь компания активно продвигает свои услуги по обучению клиентов ответственному использованию технологии».
Это не первый случай для «большой четверки»: ранее Ernst & Young и KPMG уже отзывали свои отчеты из-за подобных нарушений, несмотря на использование ИИ для привлечения клиентов.
Инцидент с PwC Middle East не является единичным случаем, так как в последние годы искусственный интеллект (ИИ) часто становится причиной мошенничества и ошибок, что отмечается в мировом масштабе. РБК обращает внимание на тенденцию, когда менеджеры обвиняют ИИ в собственных неудачах. Компании из списка Fortune 500 также считают ИИ риском: 56% из них упоминали опасности ИИ в своих годовых отчетах, что значительно выросло по сравнению с 9% в 2022 году. Среди основных рисков — репутационные издержки, операционные сложности и угрозы кибербезопасности.
Проблема сфабрикованных данных, некорректных ссылок и галлюцинаций ИИ остро стоит в различных сферах. Например, юристы, использующие ИИ, сталкиваются с риском неточности данных и ссылок на фейковые документы, как это произошло в случае ООО ЦСС. Это подчеркивает озабоченность тем, что ИИ может дезинформировать людей, выдавая ложную информацию за истину, что рассматривается как одна из главных угроз.
Попыткой решить проблему ошибок и ответственности за ИИ является обсуждение введения регулирования. В России рассматривается возможность включения норм о регулировании ИИ в нацпроект по экономике данных, с целью прояснить, кто несет ответственность за допущенные ИИ ошибки. Однако участники рынка опасаются, что чрезмерное регулирование может затормозить инновации.