Мне кажется, что бурное развитие технологий играет с нами злую шутку. Технологии развились настолько, что их нагромождение создает у человека чувство беспомощности. Невозможно разобраться до конца, как работает то или иное устройство. Бесконечное количество фич, багов, скрытых настроек и пунктов меню заставляет задуматься о конечных ресурсах человеческого мозга и человеческой жизни.
С одной стороны, умные машины и компьютеры созданы для того, чтобы облегчить и улучшить жизнь человека. С другой — человек часто слишком много времени и внимания тратит на все это многообразие.
Определимся с понятиями
Цифровизация, искусственный интеллект, боты, нейросети — слишком часто мы слышим эти слова. Настолько часто, что пришло время разобраться и всесторонне оценить — хорошо это или плохо?
Как обычно, сначала определимся с терминами. Какими характеристиками может обладать искусственный интеллект?
- Сбор, накопление и обработка информации.
- Самообучение.
- Выдача информации во внешний мир.
- Общение с человеком.
- Принятие решений. Пожалуй, это самый главный пункт.
Под эти пункты могут попасть такие системы, как машина, робот, компьютер, производственное оборудование и так далее. Несомненно, между терминами есть отличия, о которых можно почитать в интернете. Все они так или иначе обладают неким подобием разума. И имеют одну или несколько характеристик, описанных выше.
Но одна отличительная черта имеется у любого искусственного разума — он создан человеком. А значит, именно человек наделил его теми или иными способностями и параметрами.
Ну что, разобрались с терминологией? Я — нет. Дело в том, что сейчас грани различных понятий сильно размыты, и дать четкое определение той или иной системе затруднительно. Типичный пример, который всегда под рукой, — телефон. Что это — компьютер, самообучаемое устройство, средство общения и развлечения, средство контроля над человеком, искусственный интеллект, устройство для цифровизации?
Что касается сферы электрики и электроники — умным домом с умными розетками и пылесосами никого уже не удивить. Уехать в отпуск и узнать с берега моря, какая температура в доме (и, если нужно, ее изменить), — обычное дело.
Пара слов о цифровизации
Плюсы цифровизации очевидны: она облегчает труд человека по упорядочению и обработке информации. У нас чаще под цифровизацией понимают максимальный перевод человеческой жизни на «цифровые рельсы». Сюда относят платежные карты, электронные документы, цифровые паспорта, биометрию, контроль перемещения и доступа на объекты.
Уже есть добровольцы, которым вживили под кожу чип, потенциально несущий в себе всю ин-формацию о владельце — от его паспортных данных и местонахождения до информации о состоянии здоровья и о реквизитах для платежа на кассе супермаркета. Удобно? Наверное.
Цифровизация работает прекрасно до тех пор, пока все идет как надо. Если вы — законопослушный гражданин, винтик системы, то у вас даже мысли не будет что-то нарушить или изменить. Как говорится, лучший раб — тот, который думает, что он свободный. Но тут можно довести до того, что грань между человеком и роботом станет почти неосязаемой — и тот, и другой будут послушно выполнять волю «хозяина». Фильмов на эту тему — более чем достаточно.
С другой стороны — ни одна система не застрахована от сбоев и действий «редисок». Почти каждый день слышно об утечках данных — например, в службах доставки, в банках или на сайтах. Это опасно? Да. Откажутся ли люди от удобств, которые дает цифровизация? Нет.
Искусственный интеллект и нейросети
Пожалуй, лучший пример искусственного интеллекта — нейросети. Главное свойство нейросети — способность к быстрому обучению. Человек лишь задает нужный вектор на начальном этапе, а нейросеть продолжает сама лавинообразно наращивать свои знания и, не побоюсь этого слова, творческие способности.
Например, нейросеть создает тексты, почти не отличимые от текстов, написанных человеком. Пример — языковая модель YaLM (Yet another Language Model) от «Яндекс», на которой работает «Алиса».
Есть и другие сервисы, например — для автозаполняемых сайтов. Это неприятное явление набирает обороты в «Рунете». Нейросеть берет несколько статей на заданную тему и за несколько секунд генерирует вполне адекватный текст с высокой уникальностью. Мне, как блогеру, который пишет статьи руками и головой, крайне неприятно такое явление, но как с ним бороться — я не знаю.
Другой пример — нейросети, создающие изображения. Достаточно задать текстовое описание и выбрать стиль, и можно получить очень даже интересную картинку. Пример визуализации, сформированной по запросу «журнал электротехнический рынок»:
По мне — не очень, но может быть использовано как идея для дизайна. Если же задать нечто более абстрактное, результат будет впечатляющим. Например «летний город на берегу» может выглядеть так:
Уже достойно того, чтобы выдать это за работу художника и повесить на стену.
Кстати, вместе с писателями протестуют про-тив нейросетей и художники. Произведение, для создания которого профессиональному художнику нужно потратить в творческих муках не один день, нейросеть формирует за секунды. «Автору» лишь остается выбрать из нескольких результатов лучший и использовать его по своему усмотрению — например, выставить на продажу.
Грандиозный скандал разгорелся в прошлом году, когда картина, сгенерированная нейросетью, заняла первое место в художественном конкурсе. А после того, как выяснилось, что большинство работ, представляемых на коммерческих арт-площадках, — «дело рук» нейросетей, владельцы таких площадок начали с ними бороться.
Но и тут не все просто — краски и кисточки в основном остались в прошлом веке, и много современных произведений делаются с помощью компьютера. Причем часто заготовка делается при помощи нейросети, а автор вручную «допиливает» нужные элементы. Как это расценивать?
Положение осложняется тем, что большинство нейросетей имеют открытую структуру, что позволяет обучать их любому энтузиасту. Например, можно «натренировать» копировать стиль определенного художника или даже создать свой, основанный на самых выдающихся произведениях искусства.
То же самое относится к созданию музыки и видео. Но самое опасное — нейросеть может идеально копировать голос и видеоизображение конкретного человека. Достаточно ее натренировать, предоставив «исходники».
Пример, с которым сталкивался каждый, — звонок на мобильный с навязыванием какой-либо услуги. Я обычно перебиваю приятный женский голос вопросом: «Ты робот?» В 99% случаев звонок после этого обрывается, а я заношу номер в черный список. И лишь 1% испытывает от такого вопроса человеческие эмоции.
В настоящее время противостояние «олдскульного» творческого сообщества и сторонников нейросетей не ослабевает. Последние апеллируют тем, что прогресс не остановить и борьба с нейросетями похожа на то, как в 19-й веке рабочие мануфактур ломали ткацкие станки.
Как нейросети внедряются в человека
Я уже говорил про чипы, внедряемые под кожу человека (инвазивный метод). Здесь правильнее говорить не про нейросети, а про нейроинтерфейсы. Но что мешает нейроинтерфейсы множества людей объединить в единую нейросеть?
Изначально подобные технологии разрабатывались для того, чтобы существенно улучшить жизнь людей с ограниченными возможностями. Например, парализованные люди могут управлять таким образом кибернетическими протезами, компьютерами и другими гаджетами.
Дальше — больше. Сейчас множество компаний освоили технологию, позволяющую писать тексты и общаться в социальных сетях без использования клавиатуры, при помощи, так сказать, силы мысли. Конечно же, такой способ общения дает возможность играть в компьютерные игры.
Самой известной в этой области компанией является Neuralink Илона Маска. Ее успехи в области нейроинтерфейса поражают. Neuralink удалось продвинуться дальше, чем это сделали конкуренты.
Сейчас полностью беспроводной чип, вживленный под кожу, проходит испытание на обезьянах. Но я уверен, что люди тоже участвуют в испытаниях.
Главное — технология Neuralink позволяет передавать информацию непосредственно в мозг человека. Для людей установка такого чипа дает возможность восстановления зрения. Даже для тех, у которых возможности видеть не было с рождения. Ведь зрительная часть коры головного мозга все еще функционирует. То же самое относится к людям с нарушением слуха.
В перспективе полностью обездвиженный человек сможет обрести полноценную жизнь. Ведь стимулировать и передавать информацию можно на любые участки мозга. А полученная в мозг искусственная реальность может быть дополненной, приукрашенной, измененной. Для нейросети тут — раздолье!
Пример такого будущего показан в фильме «Суррогаты», когда люди лежали дома, а вместо них полноценной жизнью жили роботы-андроиды.
Скоро человека будет сложно отличить от робота
Надеюсь, я донес до читателя главную идею статьи — любой искусственный интеллект, наделенный логическим мышлением и способностью творить и принимать решения, может быть вреден и опасен для человека. Еще опаснее, когда такой интеллект принимает вид нейросети, способной обучаться.
Критикую? Предлагаю! Чтобы нейросеть не представляла опасности, нужно ее ограничить такими правилами:
ПЕРВОЕ. Действие любой системы, обладающей искусственным интеллектом, можно прекратить в любой момент без ущерба для человека и системы. То есть в том или ином виде должна быть легкодоступная кнопка «Emergency Stop» или «Отмена», чтобы робота можно было выключить в любой ситуации, а использование нейроинтерфейса — легко прекратить.
ВТОРОЕ. Человек должен иметь возможность сразу понять, что имеет дело с роботом. То есть любой искусственный интеллект должен сразу дать понять человеку, с чем он имеет дело. Как с законом о рекламе — глядя на любой текст или изображение, мы должны сразу понимать, что это реклама.
Пожалуй, это самый важный закон, особенно актуальный в наши дни. Я бы даже поставил его первым законом робототехники: «Первое, что должен сделать робот при встрече с человеком, — идентифицировать себя как робота».
Законы робототехники требуют изменения
Пророк-фантаст российского происхождения Айзек Азимов предложил знаменитые три закона робототехники, о которых логично будет упомянуть в контексте этой статьи. Вот эти законы в моей интерпретации:
- Робот должен заботиться о безопасности человека.
- Робот должен повиноваться приказам человека, если это не противоречит первому закону.
- Робот должен заботиться о своей безопасности, если это не противоречит первому и второму закону.
На мой взгляд, эти законы крайне размыты. И робот, и человек могут их трактовать как угодно, в зависимости от понимания ситуации и сиюминутной выгоды. Сам Айзек Азимов в своих рассказах неоднократно поднимает проблему этих противоречий.
На эту тему создано множество фильмов, в которых искусственный интеллект принимает решение, губительное для человека или даже для человечества в целом. А принимает такое решение робот по простой и логичной причине — он начинает считать человека опасным существом.
Главное — законы робототехники человечество должно применить в первую очередь к себе. Конечно, это выглядит утопией, но, если бы это произошло, мир определенно стал бы лучше.
