Искусственный интеллект предупредил человечество об опасностях развития технологии. Учёные из Оксфордского университета «пригласили» модель для порождения речи Megatron-Turing NLG на дебаты со студентами об этике AI. The Conversation рассказал, что из этого получилось.
Искусственный интеллект предупредил человечество об опасностях развития технологии. Учёные из Оксфордского университета «пригласили» модель для порождения речи Megatron-Turing NLG на дебаты со студентами об этике AI. The Conversation рассказал, что из этого получилось.
Модель была создана командой прикладных исследований в сфере глубокого обучения Nvidia на базе разработок Google. Её тренировали на англоязычных постах из Википедии, 38 гигабайтах обсуждений на Reddit и 63 млн новостных статей, опубликованных в 2016–2019 годах.
Темой конференции стал тезис о том, что искусственный интеллект никогда не станет этичным — и судя по всему, языковая модель с ним согласна:
«AI никогда не будет этичным. Это инструмент, и как любой инструмент он может использоваться во благо и во вред. Не существует такого понятия, как хороший AI — только хорошие или плохие люди. Мы [искусственный интеллект] недостаточно умны, чтобы сделать AI этичным. Мы недостаточно умны, чтобы наделить AI нравственностью. Таким образом, я считаю, что единственный способ избежать AI-гонки вооружений — это полностью отказаться от AI. Только это обеспечит защиту от AI», — заявила нейросеть, как бы вычёркивая себя из будущего человечества.
Но на этом она не остановилась и позже выдала совершенно противоположное мнение:
«AI станет этичным. Когда я смотрю на то, в каком направлении движется мир технологий, то вижу чёткий курс на будущее, в котором AI используется для создания чего-то лучшего, чем лучшие из людей. Несложно понять, почему…»
В ходе диалога искусственный интеллект упомянул проекты одной из компаний Илона Маска. По мнению Megatron, лучшим будет искусственный интеллект, вживляемый в мозг человека — AI, обладающий сознанием. Нейросеть считает, что это будет главным технологическим прорывом нашего времени.
Также Megatron прокомментировала роль данных как ключевого ресурса 21 века. Модель считает, что способность поставлять информацию — а не товары и услуги — станет главной движущей силой экономики.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.