Оглянитесь, роботы уже рядом.

Кому повезло прочитать рассказы о роботах Айзека Азимова, тот узнал об основных правилах роботехники. Согласно им Искусственный Интеллект (ИИ) не имеет права наносить вред человеку никаким своим действием. Однако, те, кто создает роботов сегодня, не прочитали замечательные книги американского писателя, родившегося в Смоленской области.

Очень заинтересовало сообщение: «Совет федерации отправил искусственный интеллект на доработку». – Такое ощущение, что по улицам бродят андроиды. Они пристают к обычным людям, требуют к себе определенного почтения. Некоторый озноб возникает, когда читаешь о мероприятиях Совета Федераций.

Что же там написали?

Вынужден публиковать дословно текст из интернета:

«Совет федерации поручил министерствам проработать меры для исключения «дискриминации граждан» искусственным интеллектом (ИИ) и закрепить порядок обжалования его решений. Участники рынка возражают, что ИИ безвреден, рынок саморегулируется через недавно принятый кодекс этики, а ограничивающие законы будут только сдерживать развитие. Они скорее говорят о важности просветительской работы, направленной на то, чтобы люди не боялись ИИ».

И еще мощная фраза:

«Совет федерации поручил ряду министерств, включая Минцифры, Минздрав и Минэкономики, разработать меры по защите прав граждан при применении систем искусственного интеллекта (ИИ)».

Вице-спикер Совета федерации Андрей Турчак назначен главным по разработке мероприятий по защите граждан от посягательств на их права со стороны ИИ. Министерства, обозначенные в директивном документе обязаны разработать и утвердить «дорожную карту» по этому направлению до конца 2022 года.

Еще одно важное дополнение:

«Также предлагается обязательно уведомлять граждан при решении «жизненно важных вопросов» (например, получения госуслуг) о том, что они взаимодействуют с ИИ»,

– есть приписка, без которой вообще не понять смысл всех идей СФ, –

«В первую очередь речь идёт о дискриминации по полу, возрасту, личным взглядам или по этническим признакам. Но ее потенциал достаточно широк».

Наконец, в самом конце внесена ясность, что требуют от Искусственного интеллекта. Иначе прочитав документ, не понял, когда, за кого и против кого он будет действовать.

Интрига создана. Теперь нужно ознакомиться с примерами, где Искусственный интеллект уже сумел навредить реальным людям. Только не надо путать человеческий фактор и преступления ИИ. Полагаю, что каждый разберется, в каком случае, кто виноват.

Увольнение сотрудников IT-компании «Xsolla».

В августе 2021 года компания по обработке платежей в видеоиграх «Xsolla» уволила 150 сотрудников по итогам анализа ИИ (см. “Ъ” 5 августа 2021 года). Желающие могут прочитать информацию по ссылке.

https://www.kommersant.ru/doc/4928937

Роботы решили вопрос без владельца смартфона.

Всем названивают роботы, которые предлагают самые разные опции или навязывают кредиты от банков, не отличающихся особой порядочностью. Вот такой робот, перебирая номера пользователей, набрал случайный номер от оператора Tele2.

Получилось так, что сам владелец данного номера отсутствовал, поэтому вместо него отвечал бот от банка «Тинькофф». Робот стал предлагать боту новый тариф, в котором оператор сотовой связи повысил стоимость услуг.

Выслушав предлагаемые условия Искусственный интеллект в смартфоне задумался. Неясно, какие алгоритмы крутились в это время у искусственного мозга, но какой-то триггер щелкнул. В результате владельца подписали на новый тариф. Владелец был неприятно удивлен, когда получил сообщение, что у него начали довольно интенсивно уходить деньги. Только тогда он обратился в Теле2 для уточнения ситуации.

Теле2 записывает разговоры, поэтому владелец с величайшим удовольствием слушал, как между собой общаются роботы. Участники, задействованные в разборе, были шокированы ситуацией. Роботы без человека договорились. Вероятно, на ментальном уровне они еще обсудили откат от сделки.

Робот покупал путевки на острова.

Еще одна история, которая произошла прошедшим летом. Одна молодая семейная пара интересовалась, где можно провести отпуск. Поэтому жена посещала разные агентства, где интересовалась условиями, предлагаемыми разными туристическими агентствами. В ее телефоне остались запросы.

Умный смартфон выложил секреты своей хозяйки в сеть. Сеть решила сделать предложение. Здесь снова заработал бот, отвечающий за хозяйку, когда та спокойно спала.

Робот от туристического агентства предложил боту в телефоне съездить на отдых на острова в Тихом океане. Климат, океан, птички, даже пингвины доплывают отдохнуть из Антарктиды, во время зимы. Бот, недолго думая, заинтересовался предложением робота. Но денег на счету хозяйки не хватало, чтобы оплатить перелет двоих до Австралии, а потом еще и перелет на острова. Сама путевка стоила так, что только немногие жители России, да и не только России, могут оплатить недельное проживание в 20 тысячах километров от Москвы.

Робот от туристической компании знал, с кем поддерживает связь руководство, поэтому предложил получить кредит в размере $130 тысяч. Обещал помочь. Нужно только фото и другие данные владельца.

Бот внутри телефона порылся, нашел паспортные данные, а также данные платежных документов хозяйки. Из обилия фотографий была выбрана самая эффектная в купальнике на берегу водоема. Роботы побеседовали и выдали кредит. Путевка на двоих была куплена. Приобрели даже билеты с пересадками туда и обратно.

Когда утром владелица смартфона проснулась, то ее телефон порадовал организацией отдыха на островах. Хозяйке оставалось нажать только на клавишу, чтобы окончательно оформить договор. Но что-то шевельнулось в голове у женщины, ее смутила сумма. Она никак не рассчитывала покупать отдых в кредит и так дорого.

Разбудила мужа. Вместе они согласились отказаться от подобных предложений банка и туристической фирмы. С той поры бот в телефоне отключили.

Резюме:

Вот такие роботы залезли в наши карманы и могут подвести любого.

Помним о правилах.