Відгуки на точність AI Overviews від Google викликають занепокоєння через численні помилки
В аналізі технології AI Overviews від Google виявлено, що, попри високу загальну точність, система часто генерує помилкові відповіді та спирається на сумнівні джерела, що може призводити до маніпуляцій. Це дослідження було проведено The New York Times та стартапом Oumi.
AI Overviews, функція, впроваджена компанією Google для автоматичного генерування коротких відповідей на пошукові запити, демонструє точність близько 91% після оновлення до моделі Gemini 3 у 2026 році. Проте, враховуючи обсяги оброблюваних запитів, навіть 9% похибки дорівнює десяткам мільйонів хибних відповідей щогодини.
Окрім цього, понад половина відповідей, які система вважає правильними, характеризуються як "необґрунтовані". Це означає, що сайти, на які AI Overviews посилається, не завжди підтверджують надану інформацію. Особливо тривожним є те, що ряд відповідей базується на даних з платформ соціальних мереж, таких як Facebook та Reddit, що зайняли друге і четверте місця за частотою посилань.
Крім проблем із джерелами, ШІ виявляють значні труднощі з інтерпретацією та подачею достовірної інформації. Приклади включають помилкові дати у відповіді про рік відкриття музею Боба Марлі, а також хибні твердження про віолончеліста Йо-Йо Ма.
Здатність системи піддаватися навмисним маніпуляціям також викликає занепокоєння. У ході експерименту було виявлено, що викривлений контент міг оманливим чином вносити зміни у відповідях ШІ, що демонструє вразливість системи до дезінформації.
Компанія Google зазначила, що попереджає про можливі помилки у відповідях AI Overviews та радить перевіряти інформацію самостійно. Водночас Google дещо скептично сприймає дослідження, зауважуючи, що воно не повністю відображає реальні пошукові запити користувачів.
| Точність | Модель | Частка необґрунтованих відповідей |
|---|---|---|
| 85% | Gemini 2 | 37% |
| 91% | Gemini 3 | 56% |
