«В Севастополе расходы бюджета проверяет искусственный интеллект», сообщает местное СМИ.
Из выступления чиновника: «Использовали искусственный интеллект, который называется Claude. Сверили с регистрами бухгалтерского учёта, с отчётностью и данными казначейства, проверили согласованность показателей. И по установленной форме нейросеть дала нам акт, в том числе замечаний».
Чиновник – председатель контрольно-счётной палаты Севастополя Юлия Кокарева.
Упоминание ею Claude означает, что данные казначейства из Севастополя ушли в Anthropic. Запрос на обслуживание из Севастополя, города, в котором цели для нападения выбирает другой американский поставщик ИИ-уcлуг, Palantir, привлекает внимание. Американские компании США все как одна сотрудничают со спецслужбами, это хорошо известно, но должно быть здесь упомянуто.
Переданные в Anthropic данные (речь о бюджетной отчётности департамента капитального строительства и департамента городского хозяйства Севастополя в 2026 году) публичны, в чём проблема-то, может сказать Кокарева. Верно. Более того, если эти данные опубликованы онлайн, их уже и так выкачали для обучения моделей Palantir.
Но Claude вернул в ответ на переданные ему данные и промпт Кокаревой «по установленной форме …акт, в том числе замечаний». Что мешало Claude составить этот акт так, чтобы он был полезен кому-то другому, а не ей? Откуда уверенность, что чужой ИИ-системе можно доверять как доверяют калькулятору?
И главное. Возмутительность всей этой истории не в её последствиях, а в том, что она хотя и выпукла, но, увы, типична. Это индикатор, иллюстрация того, что у нас творится по части безудержной ИИ-зации. Сформировалось неверное, зато устойчивое представление о том, что всякий ИИ хорош, и что его применение должно поощряться вне зависимости от сферы и метода применения.
Такое представление неверно.
