Предлагаем вашему вниманию перевод статьи австралийского антрополога, профессора Австралийского национального университета Женевьевы Белл (Genevieve Bell). Текст посвящён постановке задачи исследования и путям решения гуманитарных проблем, порождённых развитием информационных технологий. Проблемы, обозначенные в статье применительно к Австралии, безусловно актуальны и для России.
Восемь месяцев назад я вернулась домой в Австралию после тридцати лет работы в США, в том числе в Кремниевой долине.
После этой работы у меня осталось отчетливое ощущение, что мы должны подтвердить важность и разнообразие нашей жизни при обсуждении технологий и нашего будущего. Определить, какие шаги мы должны предпринять, сделать их лично или коллективно. Я предлагаю четыре меры, которые необходимы Австралии.
Новые подходы
Нам понадобятся новые практики для управления технологиями, основанными на данных. Приручение новых технологий цифрового мира потребует переосмысления множества важнейших вопросов, и здесь вряд ли поможет перенастройка существующих правил. Например, в высшем образовании мы должны переосмыслить механизмы финансирования исследований, а также принятые практики поддержки и вознаграждения исследователей. Механизмы финансирования не должны сосредотачиваться на нескольких дисциплинах в ущерб остальным. Существующий подход в лучшем случае недальновиден, а в худшем – просто вреден.
Инвестиции в обсуждения общечеловеческих вопросов
Мы должны инвестировать в обсуждение и поиск решений в области этики, морали, культурных и философских базисов в новом цифровом мире. Нужен ли нам для этого институт или консорциум, или правительственная организация – я не знаю. Но уверена, что это будет хорошее начинание. К обсуждению нужно привлечь правительство, неправительственные организации, промышленность, СМИ и каждого из нас. Мы должны стать вдумчивыми и заинтересованными сторонами, потому что обсуждаем собственное будущее. В следующий раз, когда услышите очередную историю о роботе-убийце, спросите себя: «Что это за технология? Кто получает выгоду от неё?» И самое главное – какое будущее создаёт эта технология?
Стремление к ответственности
Как наша человечность выражается в мире, формируемом алгоритмами, которые мы не понимаем (да, речь об искусственном интеллекте), при взаимодействии с которыми не имеем даже права голоса? Должны ли в новом цифровом мире существовать подотчётность, прозрачность и открытость? И если да, то подотчётность – кому? Как мы будем это контролировать? Чья обязанность обеспечить развитие и безопасность для людей в новом, быстром, «умном» и тотально подключённом цифровом мире?
Мы должны определить политику в этой области для Австралии и разработать соответствующие нормативные документы. Нам нужен мандат на изучение (и регулирование) технологий и алгоритмов, даже если они созданы в других странах и принадлежат компаниям из других стран. Должны ли мы требовать, как мы делаем это от новых методов лечения, чтобы новые технологии были тщательно проверены, прежде чем начнут применяться здесь? И как мы гарантируем, что наши регуляторные и директивные органы в полной мере понимают, как работают эти технологии и инфраструктуры? Мы должны получить гарантии: от коммерческих структур – финансовые, от чиновников и политиков – технические (вероятно, политические и регуляторные, предполагающие строгие механизмы контроля и наказания).
Создание собственного будущего
Я задам простой вопрос: мы хотим жить в Австралии будущего, где человек управляет новыми технологиями, или хотим стать ещё одной колонией для транснациональных и торговых империй?
Конечно, создать собственное будущее очень непросто. Нужно использовать новые технологии для продвижения культурных ценностей. Нужно научиться воплощать свои ценности в цифровом мире. Для меня эти ценности включают в себя такие понятия, как справедливость, равенство, социальную обеспеченность и гражданское общество. Если вы спросите меня, должны ли мы создавать австралийские алгоритмы, я отвечу: «Да».
На самом деле они у нас уже есть. Да, это процесс не был простым, в том числе для регулирования, надзора, подотчётности и открытости. И пока не решён вопрос о том, чьи ценности мы моделируем.
Не решён также вопрос о роли технологий в целом. Сделав машины умнее себя, мы рискуем попасть под их управление. Я считаю, что мы – это не просто данные и не просто интеллект. Боюсь, что сосредоточившись на технологиях, мы потеряем часть себя, наши чувства, и забудем, что значит быть людьми. Но я не считаю, что такой сценарий неизбежен и необратим.
Я знаю, что мы ещё можем формировать этот мир и сделать так, чтобы он отражал нашу человечность, нашу культуру и наши ценности. Для этого необходимо приступить к обсуждению места технологий в нашем обществе и роли человека в новом цифровом мире, в котором мы хотели бы жить. Поэтому я приехала домой.
