Всім привіт!
Гаряча новина зі світу ІТ, яка чудово демонструє, що розрекламований штучний інтелект ще далекий від ідеалу.
Корпорація Google офіційно визнала, що її нова флагманська функція "AI Overviews" (генеративні відповіді ШІ прямо у Пошуку) почала видавати "химерні, оманливі, а часом і небезпечні" результати.
Що трапилося?
Користувачі по всьому світу почали ділитися скріншотами дивних, а часом і шокуючих відповідей ШІ. Найвірусніші приклади:
- На запит про користь каміння, ШІ авторитетно заявив, що лікарі рекомендують "їсти принаймні один маленький камінь на день". (Як з'ясувалося, ШІ взяв цю "пораду" з сатиричної статті видання The Onion, сприйнявши жарт за факт).
- Іншому користувачу ШІ порадив додавати нетоксичний клей у соус для піци, щоб сир краще тримався (ця "порада" походила зі старого жартівливого коментаря на Reddit).
Реакція Google
Після величезного розголосу Google визнав проблему. Компанія пояснила, що такі помилки траплялися на рідкісні або незвичайні запити, де бракує якісних, перевірених джерел. Алгоритми випадково "підтягували" сатиру та жарти з форумів, видаючи їх за реальні поради.
Компанія заявила, що вже внесла понад десяток технічних виправлень, щоб покращити розпізнавання сатиричного контенту та обмежити використання даних з форумів для генерації відповідей, особливо на медичні та фінансові теми.
А ви вже стикалися з дивними відповідями ШІ? Як думаєте, чи можна взагалі довіряти цим новим "AI Overviews", чи краще по-старому переглядати посилання вручну?
Давайте обговорювати!