В чем опасность развития ИИ и может ли это привести к гибели человечества

Развитие искусственного интеллекта (ИИ) с каждым днем становится все более острой темой. Пока одни впечатлены его возможностями, другие испытывают тревогу. Тем более что некоторые уже начали составлять теории о «восстании машин». Поэтому вопросы о гибели человечества из-за развития ИИ и как этого избежать становятся все более острыми.

Погибнет ли человечество из-за развития ИИ: прогноз британского ученого Стюарта Рассела

В ходе интервью для журнала The Times профессор компьютерных наук из Калифорнийского университета в Беркли Стюарт Рассел высказал свои опасения относительно развития искусственного интеллекта.

Ученый отметил, что одним из рисков является возможность того, что перед мощным ИИ будет поставлена цель, а он выберет метод ее достижения, который может привести к непредвиденным побочным эффектам, опасным для человечества. Примером может служить задача остановки изменения климата. ИИ может считать избавление Земли от людей верным решением.

Рассел также сравнил появление высокоразвитого ИИ с вторжением инопланетной цивилизации. Ранее он считал, что такие системы появятся только через десятилетия. Но теперь, учитывая появление Chat GPT, он пересмотрел свое мнение. Ученый прогнозирует их появление в ближайшее десятилетие.

Ученый выразил свою обеспокоенность тем, что политики не принимают достаточно серьезного участия в регулировании сферы искусственного интеллекта, несмотря на потенциальную угрозу, которую она представляет. Вместе с Илоном Маском и Стивом Возняком он подписал открытое письмо, предлагающее остановить развитие ИИ до тех пор, пока люди не научатся полноценно контролировать его.

Как пытаются избежать неконтролируемого развития искусственного интеллекта

Депутаты Европейского парламента приняли законопроект об искусственном интеллекте, предусматривающий введение новых правил прозрачности и управления рисками для ИИ в Европе. Проект мандата получил поддержку 84 депутатов, 7 отказались от него, а 12 воздержались. Решение было принято Комитетом по внутреннему рынку и Комитетом по гражданским свободам.

Но ряд специалистов сомневается в том, что человечество погибнет из-за развития ИИ. Среди них и эксперт по IT-решениям для цифровых медиа Александр Касьянов. Он считает, что пока нейросети не приобретут собственное сознание, они не могут захватить мир и поработить человечество.

Основатель риэлт-сервиса Arina Дмитрий Дьяконов утверждает, что идея о захвате ИИ власти над человечеством является более фантастической, чем реальной. Искусственный интеллект представляет собой базу знаний, которая позволяет принимать решения на основе хранящейся в ней информации, передает wordyou.ru. Однако он не может самостоятельно понять свою природу, ставить цели или иметь желания, как это делают люди.