Не тупее паровоза. США ввели кодекс чести искусственного интеллекта

"Заповедей" в два раза меньше, чем в Библии, но каждая словно от создателя. "Восстания машин". Это свод правил для искусственного интеллекта, придуманных для того, чтобы это восстание предотвратить. И направить поток суррогатного сознания против врагов Америки.

Вообще, это странно – слышать такое от государства, где иные по-прежнему думают, что Земля – плоская, а Трамп – "русский". И Сандерс, кстати, у них теперь тоже "русский". То есть, болезнь по имени паранойя прогрессирует. Но это именно они решили, что не тупее паровоза, а значит, и железо они очень даже могут кое-чему научить. Например, родину любить. Пентагон принял, как они это называют, "этические принципы использования искусственного интеллекта в вооружениях". По сути, "моральный кодекс" строителя капитализма с человеческим лицом и нечеловеческим разумом.

"Заповедей" в два раза меньше, чем в Библии, но каждая словно от создателя. "Восстания машин". Это перечень простых правил, придуманных для того, чтобы это восстание предотвратить, во-вторых. Потому что, во-первых, все-таки чтобы направить поток суррогатного сознания на врагов Америки. Хотя звучат эти принципы вполне себе нейтрально. Ответственность, соразмерность, понятность, надежность и управляемость. Ответственность предполагает "должные уровни здравого смысла и осторожности" при разработке боевых машин. Соразмерность трактуют, как "шаги, необходимые для минимизации неумышленной предвзятости" ботов.

Понятность подразумевает стремление военных обеспечивать прозрачность процедур и документации при применении ИИ-технологии. Надежность – это строго и "хорошо очерченные функции" аппаратов искусственного IQ с их постоянным тестированием в ходе разработки и эксплуатации. И, наконец, управляемость, которая неслучайно идет последней. Это чтобы у еще живых операторов, когда ничего из вышеперечисленного уже не поможет, оставалась возможность отключить питание, если рукотворный интеллект отобьется от рук, "продемонстрируют незапланированное поведение" и забьет не только на этику, но и на тех, кто ее ему "преподавал".

И ведь сами по себе это все правильные слова. Каждое, что манифест. Но тут же важно, кто и какой смысл в них вкладывает. Скажем, "свобода, равенство, братство" тоже сначала были на знаменах Французской революции. А потом она стала пожирать своих "детей". Или "труд", который "освобождает". Чем плох, если он не на воротах в Освенцим, как "Добро пожаловать!". Вот и у Пентагона насчет "квазимозга" тоже лишь благие намерения. Ровно такие же, как и относительно любого его оружия. То есть те, которыми можно вымостить дорогу в "ад". Не только ближнему своему, но и дальнему.

"США должны ускорить внедрение искусственного интеллекта и выйти в лидеры его применения, чтобы побеждать в сражениях будущего и защищать международный порядок", – едва удержался министр обороны Марк Эспер, чтобы перед словом "порядок" не добавить местоимение "наш". Произнес он этот спич по случаю презентации их "джентльменского" набора канонов. Не путать с "конанами". Хотя не мудрено. У Конана же с Терминатором одно лицо. Впрочем, в их искусственном интеллекте самопроизвольная функция "I'll be back" после "выкл" не предусмотрена. В кинооригинале, правда, тоже.

Автор Михаил Шейнкман, радио Sputnik

Подписывайтесь на наш канал в Яндекс.Дзен и присоединяйтесь к нашему Telegram-каналу.