Около 30 тысяч сотрудников американских медицинских учреждений используют в работе ИИ-инструмент для расшифровки записей Whisper от компании OpenAI, который страдает от «галлюцинаций» — регулярно придумывает куски высказываний за человека на записи, сообщил в понедельник Ars Technica.
Доработанный для нужд здравоохранения помощник на основе Whisper полюбился американским медработникам, несмотря на предупреждение OpenAI не использовать ИИ-инструмент «в сопряжённых с высоким риском сферах».
Помимо придумывания не имевших места высказываний, помощник ещё и стирает оригинальные записи в целях сохранения врачебной тайны.
Причина, по которой врачи прибегают к пользованию откровенно «сырыми» инструментами, может быть обусловлена стремлением медицинских компаний снизить издержки, отмечает издание.
Напомним, в 2023 году британская служба здравоохранения задействовала ИИ для снижения количества «лишних обращений» в перегруженные больницы.
См. также:
