«Урок Цифры»: ИИ – нейтрален, всё зависит от того, кто его учит

Как и любая новая технология, искусственный интеллект нейтрален, он может быть использован и во благо, и во зло, зависит это от воли людей, принимающих участие в обучении ИИ, сказал вице-премьер Максим Акимов на «Уроке Цифры», прошедшем во вторник в Хорошёвской школе (Хорошколе) в Москве.

«Огромная сфера применения этой технологии, когда машины гибко и адаптивно учатся и учат друг друга, уже в некотором смысле независимо от воли человека и от его намерений, воспроизводя практически по своему усмотрению и отвечая по своему усмотрению на запросы человека. Тут всё будет зависеть от того, что это за запросы и что это за желания», – сказал Акимов.

Например, считает вице-премьер, ИИ можно использовать для автономного уничтожения людей – военное использование технологии: «Никогда человек не сможет так быстро и качественно реагировать на изменения боевой обстановки, как это сделает боевой робот».

«Безусловно, это зло, однако исходит оно от воли людей», – считает Акимов. В качестве мирного применения ИИ он назвал такие сферы, как здравоохранение, наука, креативная индустрия.

«Будет ли машина правильно реагировать на наши запросы, это будет зависеть от того, кто эту машину будет учить. Учить её может китаец или индус, а может немец или финн. И хотя люди на Земле объединены общими ценностями, существуют разные аспекты национальных культур, и это тоже будет влиять на то, как будет выстроена работа машин», – сказал Акимов. По его мнению, люди могут управлять опасностями, связанными с развитием технологий ИИ.

Напомним, что по поручению президента России Владимира Путина стратегия по технологии искусственного интеллекта должна появиться в самое ближайшее время. Ее цель в том, чтобы Россия вошла в число мировых лидеров в области ИИ. В февральском поручении президента говорится, что правительству Российской Федерации с участием ПАО «Сбербанк России» и других заинтересованных организаций необходимо до 25 февраля 2019 года разработать подходы к национальной стратегии развития искусственного интеллекта и представить соответствующие предложения.

В послании президента Федеральному собранию на минувшей неделе Путин сказал, что для развития ИИ им будет подписан указ, аналогичный указу о развитии генетических технологий на 2019-2027 годы (ноябрь 2018 года).

О технологиях ИИ в национальной программе «Цифровая экономика»

Согласно плану мероприятий федерального проекта «Цифровые технологии», к июню 2019 года должны быть утверждены не менее девяти дорожных карт по направлениям развития сквозных цифровых технологий, в том числе по развитию искусственного интеллекта, в качестве ответственных органов власти указаны Минкомсвязь и Минпромторг России, в качестве исполнителей – «Росатом», «Ростех», институты развития, АНО «Аналитический центр при Правительстве Российской Федерации».

В ходе реализации федерального проекта «Информационная безопасность» до конца 2021 года планируется разработать стандарты «для обеспечения надлежащего уровня обеспечения безопасности для систем … реализующих функционал искусственного интеллекта», а также проанализировать и оценить потенциальные уязвимости, угрозы и риски информационной безопасности в системах, реализованных на облачных, туманных, квантовых, виртуальных технологиях, технологиях искусственного интеллекта.

В этот же срок должны быть разработаны технологические решения и реализовано внедрение методов и технологий искусственного интеллекта анализа данных.

Образовательная акция «Урок Цифры» на тему «Искусственный интеллект и машинное обучение» стартовала 25 февраля. Это уроки информатики, подготовленные специалистами по аналитике данных Сбербанка. На открытом «Уроке цифры» во вторник в Москве на вопросы школьников ответили Максим Акимов, председатель правления Сбербанка Герман Греф, заместитель министра просвещения Марина Ракова, генеральный директор АНО «Цифровая экономика» Евгений Ковнир, основатель «1С» Борис Нуралиев, генеральный директор Mail.ru Group Борис Добродеев, управляющий директор «Лаборатории Касперского» в России и странах СНГ Сергей Земков, руководитель службы разработки «Яндекс.Поиск» Алексей Шаграев, генеральный директор «Кодвардс» Максим Волошин и другие топ-менеджеры российских IT-компаний.

Герман Греф продемонстрировал ребятам запись, на которой поздравление с праздником записано голосом и с интонацией Иннокентия Смоктуновского. Программа разработана компанией DeepMind, она способна самообучаться и говорить голосом любого человека, прослушав его записи в течение 18 часов.

Максим Акимов на это заметил, что индивидуализированное производство культурного продукта – это одно из перспективных направлений использования ИИ. «Для каждого из вас один и тот же фильм можно снять по-разному, с разными концовками, с любимым набором героев и актеров», – сказал вице-премьер. В пример он привёл фильм «Белый Бим, Чёрное ухо» – «тем, кого огорчает трагичный финал фильма, ИИ поможет придумать и снять свой финал».

Слева направо – Ковнир, Ракова, Нуралиев, Добродеев, Греф, Акимов, Волошин

На школьный вопрос о доверии искусственному интеллекту ответила заместитель министра просвещения Марина Ракова: «Я доверяю некоторым проявлениям искусственного интеллекта, например, при использовании приложения такси. Но стопроцентное доверие – это человеческое качество, основанное на эмпатии, возможности чувствовать. Вместе с тем критическое мышление и по отношению к искусственному интеллекту, и при прочтении книги или изучении веб-сайта сохраняйте всегда. Безусловное доверие следует пропускать через критику, чтобы те выводы, которые вы делаете, были обоснованы».

Генеральный директор АНО «Цифровая экономика» Евгений Ковнир привел примеры использования искусственного интеллекта: «Сегодня мы можем наблюдать совершенствование беспилотных машин, пользоваться фантастическими сервисами по обработке фотографий, получать полезные советы от персонального помощника. При этом далеко не все сценарии сегодня придуманы, поэтому у нынешних школьников впереди большое пространство для творческой интересной деятельности», – рассказал Евгений Ковнир.

Учащиеся также задавали вопросы об этике ИИ, безопасности, поисковых системах, голосовых помощниках, а также, способен ли ИИ заменить человека (в частности – преподавателя. Ответ – «нет, не может») и в каких областях и многом другом.

Экскурсия по Хорошколе

Об «Уроке Цифры»

Образовательное мероприятие «Урок Цифры», организаторами которого являются министерство просвещения РФ, министерство цифрового развития, связи и массовых коммуникаций РФ, АНО «Цифровая экономика» и ведущие российские технологические компании, стартовала в декабре 2018 года. В первом уроке приняли участие более 20 тысяч школ и более пяти миллионов учащихся 1-11 классов, а также русскоязычные школы из более чем 50 стран, по данным организаторов.

Следующие «Уроки Цифры» планируется проводить раз в месяц до мая 2019 года. Каждый из них будет посвящен развитию ключевых навыков цифровой экономики: искусственный интеллект и машинное обучение, нейросети, управление проектами и безопасность в интернете. Они направлены на приоритеты федерального проекта «Кадры для цифровой экономики».

ВАШ КОММЕНТАРИЙ:

Please enter your comment!
Please enter your name here

два × 2 =