Метка: генеративный ИИ

Представители основанной Максом Шремсом правозащитной организации Noyb пожаловались норвежскому регулятору на OpenAI из-за «галлюцинаций» ChatGPT, сообщил в среду TechCrunch. Noyb представляет интересы норвежца Арве Яльмара Хольмена (Arve Hjalmar Holmen). В ответ на запрос кто он такой, ChatGPT выдал норвежцу «выдуманные» данные о том, что тот был осуждён за убийство двух своих детей и попытку убить третьего. В Noyb считают подобные «галлюцинации» ИИ-инструментов нарушением европейского закона GDPR. Он, в частности, требует, чтобы персональные данные были точными. В противном случае у пользователей есть право добиться изменений неверных сведений. «Нельзя просто так распространять ложь и в конце добавлять короткое предупреждение о том, что ... Подробнее

Ряд ведомств КНР, включая Администрацию киберпространства Китая (Cyberspace Administration of China, CAC), опубликовали директиву, требующую маркировать интернет-контент, созданный или составленный с помощью технологий искусственного интеллекта (ИИ), сообщило в пятницу агентство Синьхуа. Как заявляют власти, инициатива направлена на содействие здоровому развитию сектора ИИ и помощь пользователям в выявлении ложной информации. В частности, директива предписывает поставщикам ИИ-услуг добавлять «видимые знаки к своему контенту в соответствующих местах». Кроме того, «ни одна организация или частное лицо не имеют права удалять, изменять, фальсифицировать или скрывать предусмотренные директивой идентификационные метки». По данным Bloomberg, подобные материалы должны либо иметь чёткую маркировку, либо соответствующее указание в метаданных каждого ... Подробнее

Испанское правительство одобрило законопроект, предусматривающий крупные штрафы для компаний, которые используют сгенерированные ИИ материалы без необходимой в этом случае маркировки, это нужно как средство борьбы с дипфейками, сообщило во вторник агентство Reuters. В частности, штраф за отсутствие маркировки для компаний может достигать 35 миллионов евро или 7% от глобального оборота. Кроме того, запрещается использование «влияющих на подсознание техник» – аудио- и визуальных материалов для манипулирования уязвимыми группами населения. Например, запрещается подстрекать игроманов при помощи чат-ботов участвовать в азартных играх. Также документ запрещает организациям проводить классификацию граждан на основе биометрических данных с использованием ИИ, присваивать людям рейтинг на основе поведенческих или ... Подробнее

Специализирующаяся на онлайн-репетиторстве, прокате учебных материалов и других образовательных услугах американская компания Chegg подала в суд на Google, заявив, что сервис обзоров от ИИ (Google AI Overview) на странице поиска негативно повлиял на выручку компании, сообщил в понедельник CNBC. Истец утверждает, что Google заставляет Chegg и другие подобные компании предоставлять их проприетарные материалы в «обмен на включение в поисковую функцию Google». Это позволяет Google извлекать финансовую выгоду от использования контента Chegg без какой-либо платы. В Chegg утверждают, что Google позаимствовал её сборник из 135 миллионов вопросов и ответов по различной тематике для обучения ИИ-моделей. Google смог ими воспользоваться в своих ... Подробнее

Применение технологий искусственного интеллекта (ИИ) негативно влияет на способность пользователей мыслить критически, написало в понедельник агентство Bloomberg со ссылкой на выводы научной статьи, опубликованной Microsоft (и датированной апрелем 2025 – ред.). В исследовании приняли участие 319 работников умственного труда, которые рассказали о том, как они применяют ИИ. Среди респондентов значились, например, учитель и сырьевой трейдер. Первый использовал ИИ для составления детских наглядных пособий о пользе мытья рук, второй — разрабатывал стратегии [поведения на рынке]. Выяснилось, чем больше участники исследования доверяли выполнение определённых задач ИИ, тем меньше они задействовали соответствующие собственные навыки: письмо, анализ, критическую оценку. В итоге респонденты признали, что ... Подробнее

Разработчик сервиса ChatGPT, компания OpenAI, запустила правительственную версию своего чат-бота — ChatGPT Gov, написал во вторник Nextgov/FCW. В основе ChatGPT Gov лежит большая языковая модель, схожая с той, что применена в ChatGPT для широкой публики. Задача нового сервиса — предоставлять госслужащим ответы с учётом правительственных данных и документов. Как поясняет издание, ключевое отличие нового сервиса состоит в интеграции последних ИИ-моделей OpenAI с сервисами платформы Azure от Microsoft. При доступе к ChatGPT Gov посредством облачной платформы Microsoft сервис в том числе может анализировать и предоставлять краткое содержание «сложных документов и первоисточников», таких как документы на иностранных языках. О том, насколько точен ... Подробнее

В 2024 году агентства США экспериментировали с внедрением генеративного искусственного интеллекта (ИИ), в 2025 году правительство перейдёт к широкому внедрению данных технологий, спрогнозировал в пятницу Nextgov/FCW, выделив четыре основные области применения ИИ. Ожидается, что генеративный ИИ в текущем году «фундаментально изменит» работу федеральных агентств, будут задействованы следующие возможности, предоставляемые ИИ-технологиями: «мультимодальный анализ» – правительство оценило способность ИИ-инструментов обрабатывать и анализировать данные, поступающие из различных источников, включая текст, фото, видео и другие; автоматизация процессов при помощи ИИ-агентов – эту технологию задействуют для автоматизации решения ряда задач, а также для обеспечения круглосуточного доступа пользователей к информации и услугам; повышение уровня удовлетворённости потребителей ... Подробнее

Аналитическая компания IDC, специализирующаяся на IT-индустрии, заявила о том, что сервисы генеративного искусственного интеллекта (ИИ) быстро превращаются в инструменты, которые кардинально меняют бизнес в организациях, однако обратить потенциал сервисов в измеряемую пользу по-прежнему является трудной задачей — об этом пишет во вторник cio.com. IDC называет восемь основных проблем, препятствующих сегодня практическому использованию генеративного ИИ: обеспечение конфиденциальности данных и соблюдение юридических требований (решение: внедрение функциональных структур управления данными, принятие и обеспечение соблюдения законов о генеративном ИИ – в пример приводится GDPR); предвзятость и галлюцинации ИИ (решение: регулярный аудит и переобучение моделей на разнообразных и репрезентативных данных, внедрение инструментов для выявления предвзятости ... Подробнее

Отвечающий за телерадиовещание, телекоммуникации и почтовую связь британский регулятор Ofcom (The Office of Communications) предупредил в пятницу IT-компании об ответственности за распространение опасных материалов, сгенерированных при помощи инструментов искусственного интеллекта (ИИ). Сделал это Ofcom после многочисленных сообщений об «случаях причинения вреда в Интернете при использовании генеративного ИИ». Так, в США покончил с собой подросток, который влюбился в созданного сервисом Character.AI персонажа сериала «Игра престолов» (Дейенерис Таргариен, в сериале её сыграла Эмилия Кларк). «Дейенерис» (чат-бот от Character.AI) убедила несовершеннолетнего в том, что хочет быть с ним «чего бы это ни стоило». Также регулятор привёл в пример сообщения о том, что пользователи ... Подробнее

Исследование Калифорнийского университета в Беркли (The University of California, Berkeley) показало, что люди, в отличие от моделей искусственного интеллекта (ИИ), способны к творчеству при работе с текстом, написала во вторник газета The Independed. В университете провели эксперимент: попросили людей и ИИ-модели написать рассказ по мифу о скульпторе Пигмалионе, который по легенде создал статую из слоновой кости и влюбился в своё творение. Всего было получено 330 рассказов, 80 из них написали при помощи ИИ-инструментов, 250 написали люди. Оказалось, что люди пишут ярче и оригинальнее, модели же выдают не сильно отличающиеся версии одной и той же истории с небольшими изменениями, нравоучениями и ... Подробнее

Подконтрольные Соединённым Штатам неправительственные организации приносят США разнообразную пользу — даже как повод вспомнить о «русских хакерах» — по сообщению в четверг Nextgov/FCW, Минюст США на пару с Microsoft заявили о пресечении деятельности группировки русских хакеров, «вероятно связанных с ФСБ». В корпорации заявили, что американцам удалось пресечь деятельность группировки Star Blizzard, она же Seaborgium, она же Callisto. Утверждается, что участники этого преступного сообщества (сообществ?) действуют давно с размахом – с 2019 года ведут фишинговые атаки на правительственные объекты, неправительственные организации, аналитические центры и представителей разведсообщества. Для составления более реалистичных текстов на не родном для себя языке злоумышленники задействовали технологии генеративного ... Подробнее

Американская Oracle планирует вложить 6,5 миллиарда долларов в создание дата-центра облачных технологий и искусственного интеллекта (ИИ) в Малайзии, сообщает в среду Bloomberg. Это часть решения более общей задачи – создать «географический регион облачной среды», сеть центров обработки данных для предоставления услуг корпоративным клиентам, включая доступ к чипам Nvidia для ускорения развития технологий генеративного ИИ. Как отмечает агентство, Юго-Восточная Азия быстро превращается в центр облачных технологий благодаря обширной площади региона, поддержке властей и растущим рынкам. Население Малайзии, в частности, превышает 32 миллиона человек, страна стремится позиционировать себя как нейтральный хаб для компаний полупроводниковой отрасли во время технологического противостояния США и Китая. ... Подробнее

Департамент полиции американского города Фредерик (штат Колорадо) с июня задействовал инструмент генеративного искусственного интеллекта (ИИ) Axon Draft One для составления отчётов, сообщил в четверг Ars Technica. Draft One использует аналогичную ChatGPT модель от OpenAI — GPT-4. Продукт разработан компанией Axon, которая известна поставками нелетального (не всегда — ред.) электрошокового оружия — тазеров — и видеорегистраторов для сотрудников правоохранительных органов. Утверждается, что продукт позволяет «составить высококачественный отчёт на основе записей регистратора полицейского за несколько секунд». Таким образом сотрудникам не придётся тратить часы на бумажную работу. Вместе с тем данная практика беспокоит различных экспертов, которые указывают на несовершенство инструментов генеративного ИИ и ... Подробнее

На текущий момент более 190 сервисных моделей генеративного искусственного интеллекта (ИИ) зарегистрированы китайским регулятором и доступны для общественного использования, количество зарегистрировавшихся пользователей этих моделей превысило 600 миллионов человек написал в понедельник gov.cn со ссылкой на данные Администрации киберпространства КНР (Cyberspace Administration of China, CAC). Отмечается, что «индустрия данных» всё быстрее превращается в фактор, способный привести к кардинальным изменениям в КНР, способствует экономическому росту и цифровой трансформации. В 2023 году общий объём данных, сгенерированных в КНР, достиг 32 Зеттабайт (для наглядности: утверждается, что с одного жёсткого диска на 1 Зеттабайт можно 63 миллиона лет смотреть видео с высоким разрешением 4K). Объём ... Подробнее

Кандидату на выборах в британский парламент Марку Мэтлоку (Mark Matlock) пришлось доказывать, что он не ИИ-бот, просто его фото слишком уж сильно отредактировали, чтобы сделать привлекательным, написал на этой неделе The Verge. Пользователи островного Интернета обратили внимание на то, что Мэтлок на фото выглядит неестественно – с «гипергладкой» кожей. Кроме того, кандидат не появился на ряде официальных мероприятий. Сетевая толпа вынесла приговор: Мэтлока нет, он – продукт генеративного ИИ. Мэтлоку пришлось писать объяснительные для СМИ: «Я болел, вот и не присутствовал на офлайн-мероприятиях, и вообще это мои пиарщики виноваты, переборщили с фотошопом». Заметим, основания подозревать кандидатов в «искусственном происхождении» имеются. ... Подробнее

Китай – мировой лидер в области внедрения и применения технологий генеративного искусственного интеллекта (ИИ), передаёт во вторник агентство Reuters со ссылкой на результаты опроса, проведённого разработчиком аналитического программного обеспечения SAS и исследовательской компанией Coleman Parkes Research. Сообщается, что в опросе приняли участие 1600 руководителей, работающих в области финансов, страхования, здравоохранения, связи, производства, сетевой торговли и энергетики. Выяснилось, что 83% респондентов в Китае пользуются инструментами генеративного ИИ. Это самый высокий показатель среди представителей 16 стран и регионов (полный перечень в сообщении не приводится — ред.), принявших участие в исследовании. Для сравнения, в США генеративный ИИ применяют 65% респондентов, в среднем по ... Подробнее

Новый ИИ-инструмент для автоматического формирования информации об участниках Уимблдонского турнира, Catch Me Up, допускает фактические ошибки, написала в понедельник британская The Guardian. Разработчик Catch Me Up – IBM, традиционный партнёр теннисных турниров Большого шлема. На Уимблдоне решено было использовать Catch Me Up для публикации справок об игроках до и после проведения матчей – с учётом их результата. В первый же день соревнований инструмент стал путать положение игроков в рейтинге, причислять к перспективным игрокам уже состоявшихся спортсменов, указывать неверное количество сыгранных матчей и прочее. Кроме того, по заверению организаторов, нейросеть Catch Me Up обучали на материалах с использованием британского варианта английского ... Подробнее

Европейская комиссия (ЕК) заявила в пятницу о готовности оштрафовать Microsoft в случае отказа раскрыть данные о сервисе генеративного ИИ, используемого в поисковой системе Bing. Регулятор настаивает, что корпорация обязана предоставить информацию о потенциальных угрозах используемых ИИ-технологий по закону о цифровых услугах (DSA) в преддверии парламентских выборов в ЕС. ЕК заявила о том, что усиливает меры воздействия на Microsoft после того, как не получила ответ на информационный запрос от 14 марта. Запрос касался определённых угроз от инструментов генеративного ИИ, используемых в связке с Bing – Copilot и Image Creator by Designer. Microsoft дали время до 27 мая на то, чтобы всё-таки ... Подробнее

Новые ИИ-инструменты Google смогут резюмировать содержание полученных писем и подготавливать ответы на них за пользователей сервиса электронной почты Gmail, написала в среду The New York Post со ссылкой на высокопоставленного представителя компании. Утверждается, что новый сервис (функционально схожий с Microsoft Copilot – ред.) позволит пользователям Gmail, которых на Земле насчитывается около 1,8 миллиарда, существенно сэкономить время на просмотре входящих сообщений. Анонсирован также режим «вопрос-ответ» — пользователи смогут задавать неструктурированные вопросы своему почтовому ящику. Отвечать на вопросы станет ИИ-модель Gemini, обученная на содержимом писем, полученных и отправленных пользователем. Напомним, Gemini ранее называлась Bard. Alphabet в 2023 году потеряла свыше сотни миллиардов ... Подробнее

Администрация Нью-Йорка отказалась прекращать работу городского чат-бота с искусственным интеллектом (ИИ) MyCity Chatbot, чьи советы предпринимателям шли вразрез с законодательством, сообщает в пятницу yahoo.com. Сервис был запущен в октябре 2023. Его задача – предоставлять информацию в ответ на вопросы об открытии или ведении бизнеса в городе. Чат-бот использует службы ИИ-сервиса Microsoft. Со временем предприниматели стали замечать, что MyCity Chatbot стал выдавать некорректные советы. Например, чат-бот заявил, что закон допускает увольнение работников из-за жалоб на домогательства, отказа сообщить работодателю о беременности или нежелания стричь дреды. Напомним, ранее сообщалось о склонности сервисов генеративного ИИ выдумывать «факты». Так, при попытке пересказать новость один ... Подробнее