православный-полемический журнал (inok_arkadiy) wrote,
православный-полемический журнал
inok_arkadiy

Categories:

Катастрофа наступит, когда ИИ научится взламывать людей


Историк Юваль Харари уверен - соединение машинного обучения и биологии даст разработчикам неограниченную власть над людьми. У диктаторов тогда появятся новые инструменты подавления и контроля.

Человечество стоит на пороге не только технологического, но и философского кризиса, считает историк Юваль Харари, автор книги «Sapiens: Краткая история человечества». В интервью Wired он отметил, что новые технологии формируют новые формы антиутопии. И общество пока не понимает, как адаптироваться к меняющейся реальности.

Харари вывел формулу предстоящего глобального кризиса: B*C*D=HH. В данном случае B - это познания в биологии, C - это вычислительная мощность, а D - это данные. Если помножить их друг на друга, появится возможность взламывать людей (HH - hack humans).

Под взломом исследователь подразумевает возможность управлять человеком на глубинном уровне, то есть контролировать его желания и стремления. Харари опасается, что правительства и корпорации скоро изучат людей настолько, что смогут с легкостью регулировать их мысли.



Технологии отдаленно будут напоминать таргетированную рекламу, только их действие будет более точным, а эффект - стопроцентным.

Ранее историк отмечал, что в сложившихся обстоятельствах привычные философские концепции отмирают. Это касается свободы воли и свободы выбора. Люди ошибочно полагают, что контролируют ситуацию, но на самом деле это не так.

Главное следствие масштабного внедрения искусственного интеллекта - это утрата человеком автономии и авторитета. При этом ИИ не обязательно выходить на один интеллектуальный уровень с людьми и обладать сознанием. Алгоритмам достаточно будет изучить личность досконально, чтобы найти самую слабую точку и запустить процесс манипуляций.

Общество подвержено взлому на всех уровнях, но больше всего Харари пугает биологический. «Эксперты по ИИ могут общаться с философами. С историками - да, пожалуйста. С литературными критиками - замечательно. Но меня пугает их общение с биологами», - признал он в интервью Wired.

Израильский исследователь подчеркивает, что ИИ означает и массу преимуществ. Особенно это касается медицины. Харари подчеркивает, что никто не станет препятствовать внедрению технологии - ведь она способна принести столько пользы людям.

Алгоритмы-манипуляторы

Распространение ИИ в комплекте с биотехнологическими открытиями породит два возможных сценария антиутопии. Первый - надзор-капитализм - даст алгоритмам полную власть над людьми.

Машинный интеллект решит за нас, где жить, работать, с кем встречаться и за кого голосовать.

Второй сценарий предполагает укрепление тоталитаризма и диктатуры, при котором каждый житель Земли - это объект непрерывной слежки. Особую роль в этом процессе сыграют биометрические системы, которые не дадут гражданину скрыться от всевидящего ока государства.

«Во времена Сталина и Гитлера таких технологий не было, но через 20-30 лет они могут появиться», - предупреждает Харари.

Историк подчеркивает: люди могут даже не заметить, как оказались во власти ИИ. Большинство не сможет понять, как работают механизмы алгоритмов и как именно нами манипулируют. Человечество привыкло к традиционным формам объяснения и повествования, но машинный интеллект работает со статистическими данными и оперирует другими понятиями.

Харари считает, что чрезмерное усложнение систем - одна из главных актуальных проблем. Из-за этого, например, ученым все сложнее объяснять свои теории и доносить до аудитории суть открытий.

Важный побочный эффект этого - расцвет теорий заговора. По этой причине сейчас возникает все больше антипрививочников и тех, кто не верит в глобальное потепление.

То же касается и сферы финансов - с каждым годом она усложняется, и некоторые концепции можно объяснить, только если потратить 10 лет на изучение экономики и математики. «В этом тоже выражается философский кризис», - отмечает Харари.

Цифровой колониализм

Он также считает, что сегодня человек борется не с отдельными людьми, а с государствами и корпорациями. Перед лицом таких мощных соперников шансов на успех мало.

Более того, влияние некоторых стран выходит за географические рамки. Историк обвиняет развитые государства и крупные корпорации в цифровом колониализме. Раньше империи выращивали хлопок в Индии или Египте, потом отправляли сырье в Британию, производили одежду и вновь пересылали ее в Индию или Египет, вытесняя местных производителей.

Сейчас то же самое происходит и с данными. Компании «выкачивают» данные из Бразилии и Индонезии, обрабатывают их в США или Китае, а затем создают на их основе продвинутые продукты, которые в итоге распространяют в «колониях».

https://hightech.plus/2019/04/29/yuval-harari-katastrofa-nastupit-kogda-ii-nauchitsya-vzlamivat-lyudei



Tags: искусственный интеллект
Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 6 comments