По данным The Guardian, этот случай вызывает у экспертов серьезную обеспокоенность по поводу достоверности информации, на которую ИИ опирается в вопросах общественного здравоохранения.
Ключевые выводы отчета
Доминирование YouTube: Исследователи проанализировали более 50 000 запросов, связанных со здоровьем (проведенных на немецком языке). Они обнаружили, что на долю YouTube приходится целых 4,43% всех упоминаний в обзорах AI, что делает его единственным наиболее часто цитируемым доменом.
Маргинализация экспертов: Ни одна сеть больниц, официальный сайт общественного здравоохранения или медицинская ассоциация не приблизились к показателям цитируемости YouTube.
Риск отсутствия проверки: Эксперты, которых цитирует The Guardian, подчеркивают, что YouTube — не медицинское издательство, а платформа общей тематики. Помимо контента, созданного лицензированными врачами, есть материалы от инфлюенсеров и «лайф-коучей», не имеющих медицинского образования.
Системные ошибки: Ханна ван Кольфшутен из Базельского университета отмечает в тексте, что проблема носит структурный характер. Это говорит о том, что алгоритмы искусственного интеллекта Google могут отдавать предпочтение популярности и видимости контента, а не его научной точности.
Реакция представителя Google
Представитель Google в ответ на выводы публикации защищает этот инструмент, утверждая, что AI Reviews был разработан для получения высококачественного контента независимо от его формата. Компания отмечает, что, по их собственным данным, целых 96% из 25 наиболее цитируемых видеороликов на YouTube пришли с каналов, которыми управляют медицинские работники.
В статье также упоминается более раннее расследование The Guardian, которое показало, что обзоры ИИ способны генерировать опасные и неверные советы, например: относительно интерпретации результатов тестов функции печени или диеты при раке, что привело к удалению ИИ-резюме для некоторых медицинских фраз.
