Предлагаем вашему вниманию изложение беседы исследователя искусственного интеллекта, профессора Калифорнийского университета в Беркли, автора книги «Человеческая совместимость» (Human Compatible), соавтора книги «Искусственный интеллект: современный подход» Стюарта Рассела (Stuart Russell) и сопредседателя Глобального института McKinsey, старшего партнёра McKinsey в Сан-Франциско Джеймса Маники (James Manyika) о необходимости нового подхода к искусственному интеллекту (ИИ). Обсуждаются потенциальные проблемы нынешнего подхода к ИИ и предложения по его пересмотру с целью сделать так, чтобы ИИ был полезен, а не опасен для человечества.
Получение образования, организация путешествий и многое другое благодаря технологиям ИИ переходит из категории сложного в категорию услуг – достаточно сделать несколько кликов, чтобы получить информацию, купить билет и забронировать отель. Технологии ИИ также доказали свою эффективность в фундаментальных и иных исследованиях, вычислительной и молекулярной химии благодаря способности формировать целостную картину хода и результата наблюдений.
Технологии ИИ существенно ускоряют существующие процессы и позволяют делать то, что выходит за пределы возможностей человеческого разума. Однако эти технологии могут быть усовершенствованы ради блага человечества.
Существующий подход к ИИ заключается в том, что машины интеллектуальны настолько, насколько это требуется для достижения поставленных перед ними целей. Подход заимствован из философии и экономики, он определяется понятием «рациональность». По сути, к машинам было применено человеческое понимание интеллекта: люди поставили перед машинами собственные цели. Это плохая модель ИИ, потому что людям редко удается ставить исчерпывающие и корректные цели. Как правило, это невозможно. Пример: царь Мидас пожелавший, чтобы все, к чему бы он ни прикоснулся, превращалось в золото. Когда пожелание сбылось, Мидас умер от голода.
Невозможно создать машину, которая будет понимать все наши предпочтения, потому что мы сами не понимаем их полностью.
При этом машины способны находить решения, о которых человек даже не предполагал. Это чревато потерей контроля над машинами.
На самом деле человечеству не нужны интеллектуальные машины, которые преследуют заранее поставленные цели. Человечеству нужны машины, которые будут ему полезны. Требуется создать своего рода бинарные отношения, а не поддерживать обособленность машин. Человек и машина должны взаимодействовать в рамках одной системы.
Вместо написания алгоритмов поиска оптимальных решений для достижения поставленных человеком фиксированных целей следует создать алгоритмы, которые позволят машинам быть частью единой экосистемы с человеком. Суть в том, чтобы наделить машину сущностью, необходимой для того, чтобы её поведение было полезным человеку.
Простейший пример: перед машиной стоит задача купить вам чашку кофе, но у неё мало информации о вашей платежеспособности. Если мы находимся в фешенебельном районе Парижа Georges V, нынешние алгоритмы найдут близлежащую кофейню и закажут вам кофе за 13 евро. Однако при новом подходе к использованию машины она предварительно уточнит, устраивает ли вас цена, или вы предпочитаете подождать 10 минут и купить кофе дешевле. Новый алгоритм, в отличие от старого, спрашивает у человека разрешение.
Более того, новый подход подразумевает возможность отключения машин в случаях, когда алгоритм может нанести вред человеку. Это полная противоположность машине с фиксированной целью, которая не даст себя отключить из-за необходимости обеспечить предписанный результат.
ИИ-машины с новым алгоритмом будут пытаться узнать больше о человеческих предпочтениях, чтобы оказаться максимально полезными. Тогда чем больше известно машине, тем полезнее для человека она будет.
В основе алгоритмов должно быть почтение к человеку – в этом основа нового подхода к ИИ.
1 КОММЕНТАРИЙ
комментарии закрыты.
Всё будет наоборот