Управление по контролю продуктов питания и лекарственных препаратов США (Food and Drug Administration, FDA) предложило проводить для медицинских ИИ-ботов специальные экзамены, подобные тем, что проходят люди для подтверждения знаний, и запросило мнение общества по данной инициативе, написал в четверг Nextgov/FCW.
Экзамены, по мнению представителей FDA, должны быть проведены до того, как чат-боты получат маркировку «медицинское устройство».
Управление намерено проводить испытания уже готовых продуктов, разработанных на основе технологий генеративного искусственного интеллекта, а не фундаментальных моделей и их составных частей. Контролируются «знания» робота, его аналитические возможности, эффективность и безопасность.
Тщательность теста предлагается варьировать в зависимости от потенциальных рисков медицинских ботов – предлагает ли программа пациенту предпринять какое-либо действие или же просто предоставляет информацию. Учитывать также, считают в FDA, необходимо последствия ложных рекомендаций и опыт применения тех или иных ИИ-продуктов в реальных условиях.
См. также:
