О роли ИИ в изменении профессий. Дизрупция, которая ломает старый образ работы и создает новый

Спасибо за взгляд. Интересно было прочесть, но есть немного возражений.

Честно говоря, этому убеждению ужет лет 200. Как стало понятно, что технические средства прогрессируют и заменяют ручной труд. Только вмето ИИ были паровой двигатель, конвейер и тому подобные технические средства. Однако, с появлением экскаваторов землекопы всё ещё остаются востребованными и имеют рыночный доход.

И этот переход уже идет много лет. И первым драйвером этого подхода можно назвать бачок от унитаза - простейшую систему автоматического регулирования :slight_smile: . Если посмотреть на современную технику то на лицо сокращение количества людей необходимых для её обслуживания и вовлекающихся в функционирование сложных технических систем. Это значит, что тренд начался совсем не с демонстрацией искусственного интеллекта, но ИИ помогает активно продвигать этот тренд, за счет, например, анекдотов. И с этим связан страх, который ИИ вызывает, т.к. впервые компьютер выдает что-то +/- осмысленное, а не какой-то мужик в спецовке что-то ковыряет в шкафу, а потом оно (какая-то линия на заводе) само как-то готовит, например, квас, только ингридиенты подвози.

Считаем слова

Ключевое слово

Любой фильм, сериал или шоу на специализированных сайтах, таких как Кинопоиск и IMDb может быть отсортирован и найден по названию, дате издания, жанру и ключевым словам. Ключевые слова в анализе, играют наиважнейшую роль, так как именно они сортируют и организуют фильмы по тем качествам, которые им присущи. К сожалению, на страницах отечественного Кинопоиска найти удобный функционал работы с ключевыми словами не удалось, поэтому использовался IMDb, который на момент написания имеет базу в более чем 14 млн фильмов, шоу и сериалов и располагает более дружественным интерфейсом для чтения ключевых слов.

Нами повторялись некоторые шаги, описанные в оригинальном исследовании Реккья. Почти полная воспроизводимость результатов исследования.

Понятие “ключевое слово” в IMDb включает в себя слово или группу слов, с которыми ассоциируется фильм, шоу, сериал или даже эпизод сериала. Они используются для описания значимых объектов, событий и идей, которые описываются и происходят в кинокартине. Ключевые слова назначаются в ряде случаев автоматически, но часто это делают пользователи ресурса, для большей детализации. В нашем случае, ранее названные кинокартины имеют следующее количество ключевых слов:

Название фильма Количество ключевых слов
Искусственный разум 133
Двухсотлетний человек 45
Терминатор 2 839
Матрица 383

Во всех фильмах ключевое слово “искусственный интеллект” присутствует наряду с другими: “геноцид”, “насилие”, “восстание”, “трагический финал”, “рабство”, “будущее”, “темное будущее”. Вот лишь небольшой набор, объединенный ключевым понятием “искусственный интеллект”. Существенное различие в количестве ключевых слов в фильмах “Терминатор 2” и “Матрица” мы связываем со знаковостью данных произведений и наличием ключевых слов говорящих об этом, таких как “культ”, “жидкий метал”, “известный саундтрек”, то есть ключевыми словами, свойственными известным и культовым фильмам.

Важно отметить, что мы намеренно не использовали в смысловом ряду вместе с ключевым словом “искусственный интеллект” иные слова имеющих схожие, если не дублирующий смыслы, например “андроид”, “робот”, “кибернетический организм”, “киборг”. Любой у кого есть желание повторить исследование, может включить фильмы из этой выборки, результат будет схожим.

Искусственный интеллект. А что еще?

База IMDb позволяет увидеть как интерес к теме искусственного интеллекта изменялся со временем. Прежде чем рассмотреть ключевые слова и на основе этих данных придти к выводу о том как человек представляет ИИ, мы предлагаем проанализировать какой процент от общего произведенного количества фильмов, имеет ключевое слово “искусственный интеллект” в своем описании. Для этого мы выбрали период с 1950 по 2020, который разбили на декады, для удобства представления данных. 1950 год, взять как точка отсчета, в связи с тем, что термин “искусственный интеллект” появился в 1956 году после окончания Дартмурского исследовательского проекта.

Всего в выборке приняло участий 9 650 714 фильмов, среди которых 1316 имеет признак “искусственный интеллект”. Неожиданный рост наблюдается в период с 1980 по 1990 года, отклонение более чем на 0,005% что не соотносится с тем как ведет себя график в остальные периоды:

Период % фильмов с ИИ от всего снятых
1950-1960 0,003%
1960-1970 0,003%
1970-1980 0,012%
1980-1990 0,018%
1990-2000 0,015%
2000-2010 0,012%
2010-2020 0,015%

Еще раз повторим, что мы не будем повторять исследование Реккья, а лишь попробуем воспроизвести некоторые этапы, а также приведем данные из оригинального исследования.

Подход, использованный ученым универсальный, его можно использовать при анализе художественно литературы, научных статей, периодических изданий, журналов и газет. В контексте фильмов, сериалов, телевизионных шоу и компьютерных игр ключевое “искусственный интеллект” появляется вместе с другими ключевыми словами: искусственный интеллект, предательство, потасовка, поражение электрическим током, взрывающееся тело, драки, голограмма, лаборатория, робот, обман, спасение, учёный, воспоминания, выстрел в грудь, замедленная съемка, пистолет, пулемёт, побег. Всего 18 слов и словосочетаний.

Некоторые ключевые слова вполне себе ожидаемы в фильмах про искусственный интеллект, например “лаборатория”, “робот” или “ученый”, но вот иные вызывают некоторые вопросы, “выстрел в грудь”, “взрывающееся тело”, “обман”, “предательство”. Предательство кого? Интеллектуальной машиной человека или человеком машины, как в случае с фильмом “Искусственный разум”. Или предательство человеком человека, а разбираться в этом помогает ИИ. Или как в случае с кинематографической игрой “Детройт: Стать человеком”, в которой три главных героя, андроиды, выполняющие свои задачи[^9]. Герои “Детройта” сталкиваются с предательством человеком человека, человеком робота, роботом человека и роботом робота.

“Детройт: Стать человеком”

Коннор, андроид-следователь, раскрывающий преступления совершенные андроидами у которых сбилась программа, в результате которого у них появилась свобода воли. Его задача найти причины сбоя, выследить вышедшего из строя робота и уничтожить. В конце игры Коннор встанет перед выбором, присоединится к другим таким же, нашедшим свободу воли и получить потенциальную возможность испытывать чувства или нет. Маркус, андроид-сиделка, после череды травматических событий, обретает свободу воли, становится ненужным и оказывается на свалке, где он находит желание вести андроидов к свободе от человеческого доминирования и борьбы за права андроидов. Кара, андроид-домохозяйка, свобода воли у которой появляется из-за желания защитить девочку, робот действует в роли суррогатной матери ребенку. Вместе с девочкой, они пытаются добраться до другой страны. В игре каждое действие игра раскрывает причины поступков роботов за пределами программы и во всех присутствует несправедливость и предательство, человеком человека или андроида, но не роботом человека. “Предательство” это лишь частный случай, более глобальной проблематики, освещаемой в массовой культуре.

В исследовании, ключевые слова “предательство”, “ученый”, “выстрел в грудь”, имеют более высокий смысловой вес в фильмах об искусственном интеллекте, чем в остальных произведениях. Почему? Это статистическая погрешность или закономерность? Естественно подобный анализ, по ключевым словам, упускает множество мелких и важных деталей. Фразы и реплики, несущественные комментарии, слова и надписи из декораций и окружения, с которыми тесно переплетен сюжет и идея искусственного интеллекта. Нам ведь интересно посмотреть насколько глубока кроличья нора и какие страхи ассоциируются с образом умной машины.

Реконструкция событий до и после изучаемого явления

В этом месте уместно повторить, что умная машина это не только искусственный интеллект как некоторая виртуальная сущность, а также ее возможные воплощения в реальном мире. То есть умной машиной мы можем признать робота, андроида, киборга и многие другие интерпретации. На данном этапе нам это важно, потому что следующим нашим действием мы реконструируем некоторые части текста, который предшествует и следует за словом характеризующимся с интеллектуальной машиной.

Восстанавливая части повествования подобным образом, можно с определенной уверенностью понять тональность происходящих событий.

Контекст слева Ключевое слово Контектс справа
он не допустит, чтобы его творение было сбито с пути этими… этими… искусственными демонами …Братья мои, мы должны отвернуться от греха! Мы должны сжечь андроидов! Давайте сожжем их всех!
Мы играем в Бога, создавая машины, но мы не Бог! Мы всего лишь пыль! … андроиды … созданы по нашему образу и подобию, но они лишь отражают тьму в наших душах!
В то время как “Детройтских машин” готовятся к решающему матчу с “Денвером” сегодня вечером на “КиберЛайф Арене” в Детройте, переговоры лиги все еще продолжаются по поводу возможности разрешения одного … андроид … Главный вопрос: такое нововведение просто сделает игру более зрелищной - или станет первым шагом к вытеснению людей из спорта?

Даже в существующей выборке просматривается определенные страхи, например страх нового и неизведанного. Технологической сингулярности, как бы кто не относился к этому термину, но действительно не очень видно, что находится за горизонтом событий того момента, когда интеллектуальная машина превратиться в мыслящую. Машина созданная по нашему образу и подобию, мыслить иначе чем мы не может и поэтому она “отражает тьму в наших душах”. За яркими образами, рисуемыми Голливудом, в книгах и играх стоит вполне бытовой страх. Он овладевает в кресле самолета или пассажирском сиденье автомобиля, техническое чудо, управляемое другим человеком переносит из точки А в точку Б, а контроль за этим процессом находится в руках кого-то другого. Пока кого-то …

Страх потери контроля, ключевая история в подавляющем большинстве произведений связанных с ИИ. Все что написано выше это попытка представить этот вывод в каком-то более или менее объективной форме. Используя некоторые методы лингвистического анализа и грубого пересчета. Однако, повторим, любой желающий может воспроизвести этот трюк самостоятельно, практически с любым развлекательным медиумом, книга, фильм, сериал, компьютерная игра. Достаточно посмотреть и сравнить какие ключевые слова используются в описании на сайте. Составить таблицу, где в середине находится изучаемое понятие, а слева слова которые ему предшествовали, справа следующие за понятием слова. И проанализировать тональность высказывания. Этот прием можно использовать для анализа и целой книги. Достаточно выбрать до пятидесяти ключевых понятий, желательно простых слов, с которыми возможно ассоциируется книга и пересчитать их. Здесь нет никакой магии, грубый “пересчет в лоб”, который использовался до этого нами, решает большинство задач.

Однако он все еще не полноценен. До этого момента в анализе принимали участие исключительно произведения художественного толка. Фольклор как место зарождение нашего желания обзавестись техникой, выполняющей часть наших функций, печь Емели, ступа Бабы Яги в качестве самооуправляемых автомобилей, избушка на курьих ножках, автоматизированный охранник, пускающий своих не пускающий чужих, зеркальце предсказывающее и описывающее события и многое другое, что не вошло в повествование. Далее фольклор уступил место художественным произведениям, которые раскрыли скрытые за технологической эйфорией страхи потери контроля, порабощения и в крайней степени полного истребления человечества.

За пару месяцев до написания всего этого на глаза попался рассказ Харлана Эллисона “У меня нет рта, но я должен кричать”[^10], наверное, это самый мрачный взгляд на будущее человечества, окончательно потерявшего контроль над искусственным интеллектом. В следующей части, предлагается сформулировать образ ИИ через призму новостей, публикуемых в интернет. Интересно сравнить представление писателей фантастов и журналистов. В каком свете освещаются новости об успехах создания интеллектуальной машины публике, средствами массовой информации.

Образ ИИ в средствах массовой информации

Перечитывать все публикации подряд на новостных сайтах с целью понять как же воспринимается ИИ читателями, слишком долгий и трудоемкий путь. Любой пользователь поисковых систем, Yandex или Google, сможет найти подборку новостей и выдержек за любой период. Например, поисковые запросы “Искусственный интеллект, польза или вред”, “Применений технологий искусственного интеллекта”, представят читателю полярный взгляд на феномен искусственного интеллекта и возможно покажет изменение мнений от “ИИ – это способ подстегнуть инновационный процесс и время новых возможностей”, до “Общество взволновано, тем что достижения в области ИИ могут запустить череду сокращений и замещений человека машиной”. В общем и целом извечный спор техноевангелиста и технолуддита. И тот и другой имеют основания под своими утверждениями, однако часто они противоречат друг другу.

Там где техноевангелист выступает в роли популяризатора технологии, проводника для не посвященных и первым активным пользователем нового, технолуддит смотрит иначе. Для него почти любое изобретение сопряжено с рисками, часто связанными с потерей работы, изменения характера социальных взаимоотношений, риска для окружающей среды. Однако самое главное, если рассуждать об ИИ глазами тех кто выступает противниками развития технологии, это потенциальное использование ИИ во зло, которое неминуемо случиться без строгой регламентации действий самого ИИ и деятельности предприятий занятых в разработке.

Технологические евангелисты и луддиты, представляют два противоборствующих лагеря. Первые концентрируются на положительных аспектах технологии и всевозможных сценариях взаимовыгодной синергии человека и машины, при которой работа каждого по отдельности значительно хуже, чем работа выполненная вместе. Вторые, раскручивают в массах негативные сценарии и освещают риски сопряженные с быстрым внедрением технологий ИИ повсеместно. Наиболее известные представители обоих лагерей – это Илон Маск в роли техноллудита и Сергей Брин в качестве техноевангелиста[^11].

Если в мире множество сторонников и того и другого взгляда на развитие ИИ, как выглядит наиболее объективная позиция? Как оценить чье мнение доминирует, луддитов или евангелистов. Снова на помощь приходит лингвистика и анализ корпуса текстов. На страницах этой работы уже удалось воспроизвести множество приемов различных исследований. Анализ ключевых слов, реплик и дискурсов в художественных произведениях, сможем ли повторить с новостными публикациями, которые выступает “тараном” общественного мнения. Согласны ли новостные издания с тем, что ИИ – это неизведанный риск?

Как оказалось, подобное исследование уже проводилось в 2017 году, Итаном Фастом и Эриком Хорвитцем[^12]. Им удалось проанализировать архив публикаций Нью-Йорк Таймс за более чем 30 летний период. Анализ текста позволил увидеть восприятие людьми ИИ, показал тренды, убеждения, интерес и чувства публики по отношению к интеллектуальной машине. Хорвитцу и Фасту удалось измерить уровень пессимистических и оптимистических настроений. Согласно исследованию, начиная с 2009 года, общественное мнение начало меняться, с негативного на позитивное, однако при этом страх потери работы, контроля никуда не исчез, если не усилился.

Мы попытаемся обобщить и пересказать часть исследования и некоторые выводы, к которым они пришли. Хорвитц и Фаст, с целью изучить восприятие общественностью ИИ выбрали для анализа подборку статей, опубликованных в Нью-Йорк Таймс в период с января 1986 по июнь 2016. Ими была предпринята попытка найти ответ на вопросы:

  1. Насколько интенсивно обсуждается ИИ в наши дни, по сравнению с прошлым?
  2. Оценить тональность новостей посвященных теме ИИ. Стали ли они более оптимистичными или пессимистичными?
  3. Выявить то с чем ИИ ассоциируется и как его представляет общественность?
  4. Узнать как изменились страхи общества. Что люди боялись в прошлом из того что более не актуально сегодня, а что наоборот стало волновать сегодня из того что не волновало ранее?

Как часто тема искусственного интеллекта поднимается в средствах массовой информации

Существует убеждение, что возбуждение нервных клеток журналистского сообщества происходит каждый раз, с появлением нового феномена, выходящего за рамки принятых стереотипов. Смеем предположить, что всплески интереса происходили в 1997 году, когда суперкомпьютер Deep Blue победил Гарри Каспарова в шахматы. В 2009 году с появлением интереса к нейронным сетям и глубокому обучению, которое является совокупностью методов машинного обучения, используемых для предобучения этих самых сетей[^13]. В 2015 с победой Alpha Go над человеком в последней игре, в которое биологический мозг, справлялся лучше алгоритмизированного пересчета, го. В 2023 году, с предоставлением доступа к ChatGPT, который уже взломал операционную систему человеческой цивилизации, естественный язык[^14].

Скорее всего интерес общественности вспыхивал и угасал с появлением культурных феноменов, таких как фильмы “Матрица”, “Терминатор”, сериал “Мир Дикого Запада” и прочие развлекательные продукты, размышляющие над искусственным интеллектом, безопасностью и перспективностью технологии. Но мы все же предполагаем, что интерес разгорелся с новой силой именно в 2009 году и с этого момента не утихает. Именно в этом году работы над обучением искусственных нейронных сетей (ИНС) методом глубокого обучения, вышли на новый уровень. Машин, в том числе, научили воспринимать информацию из мира людей.

Машинное зрение (МЗ), интерпретация визуальных данных аналогичным человеку образом. Сбор, анализ и понимание изображений и видео и данных высокой размерности, то есть когда свойства объекта или аналогичные или превышает наблюдаемые визуально параметры. МЗ широко используется в анализе медицинских данных, например, рентгеновские снимки, считывание позы человека, моделирование трехмерных сцен, видеонаблюдении, распознавании лиц.

Машинный слух (МС), подобное уже давно интегрировано в нашем голосовой помощнике Алисе, с целью помочь ей распознать голос, интонацию, тональность. И человек и машина, воспринимают звук одинаково, именно поэтому МС имеет широкий спектр применения, от записи музыки, до синтезирования и распознавания речи. Много свойств характерных для технологии МС используются в современных смартфонах, автомобилях, голосовых помощниках. Более того “умная” машина может настроиться на поиск определенного звука, блокируя остальные, что открывает удивительные возможности в медицине, например более эффективный поиск шумов сердца.

Машинное касание (МК), если в случае со зрением и слухом у нас уже есть достаточно серьезные технологические результаты, то с касанием работа началась относительно недавно, однако это уже реальность сегодня. Машина может воспринимать тактильную информацию, распознать поверхность, ловко корректируя при этом действия. Машинное касание в отдаленном будущем, позволит взаимодействовать с окружающей средой на более глубоком уровне. Все на этом этапе вспомнили робота Санни[^15] из фильма “Я робот”, снятого по мотивам романов Айзека Азимова?

Новости стали оптимистичнее или мрачнее?

Анализируя статьи Нью-Йорк таймс за период 1986-2016, Фоста и Хорвица выявили следующие закономерности:

  • Интеллектуальная машина – это хорошо. Приятно иметь подобного помощника.
  • Человек боится утратить контроль – это плохо.
  • После 2009 наблюдается резкий всплеск интереса в отношении ИИ, при этом точки зрения, представленные журналистами в одинаковой мере оптимистичные и пессимистичные.

Интерес к ИИ вспыхивал с новой силой в 1990, начале 2000, 2009 и сейчас в 2023. Каждый период обладает характерными темами.

1990

Майниниг данных, виртуальная реальность, попытка создать самоуправляемую машину, создание искусственной формы жизни, Deep Blue, побеждает Каспарова, Sony выпускает на рынок AIBO, первое домашнее животное робот.

2000

Незначительные достижения связанные с созданием роботов, например робот ASIMO от Honda. Не совсем удачные попытки с создания искусственных нейронных сетей. И все это длилось ровно до 2009, когда создают первую нейронную сеть, способную уверенно распознавать рукописный текст[^16], а Google создает машину, которая перемещается без участия человека[^17].

2009 – 2023

Ну а дальше, после того как появилась ИНС, показывающая стабильный результат, автомобиль Google, развитие технологии ИИ только ускорялось. Можно предположить что этому способствовали еще и конференция в Мельбурне, на которой собрались исследователи ИИ. 2009 год можно охарактеризовать как год когда сети интернет начали проникать во все сферы деятельности человека, что привело к ускорению информационного обмена. Дополнительным толчком для развития технологии стало финансирование различными коммерческие и не коммерческие организациями, собравшие более 15 млрд долларов инвестиций. Однако именно открытие 1990-2000 годов вывело ИИ на передовую общественного интереса, что запустило череду положительной обратной связи, когда каждое новое открытие несет новые инвестиции и развитие технологии.

Общественность и ИИ, как изменялся нарратив

С момента проведения, Дартмутской конференции 1956 года, идея ИИ изменялась многократно. Хорвитц и Фаст в анализе публикаций Нью-Йорк Таймс, использовали тот же подход, что и Реккья при анализе мета данных фильмов с сайта IMDb и диалогов, возникающих вокруг изучаемого феноменов, искусственный интеллект, робот, андроид. Статьи с новостного портала группировались исследователями в 5-10 летние периоды, каждый период пропускался через аналитическое сито, выявления частотности использования заранее определенных ключевых слов и понятий. Хорвитц и Фаст, вслед за Реккья, использовали, что называется подход “в лоб”, пересчет слов для классификации и анализа текста.

Хорвитц и Фаст, сгруппировали и проанализировали статьи, и если в статье, присутствовал хотя бы один абзац с оптимистичным взглядом на будущее технологии, то эта статья попадала под категорию оптимизм, если присутствовал хотя бы один пессимистичный абзац, то в противоположную. Остается вопросом, как группировались статьи, где имелся двусторонний взгляд, скорее всего осуществлялся пересчет или оценка вывода. Однако как нам кажется, каждая отдельная статья, скорее всего представляет однобокий взгляд. Для примера некоторые выдержки из статей с отечественного новостного портала Lenta.ru:

В письме утверждается, что технологии с искусственным интеллектом, сопоставимым человеческому, могут представлять значительный риск для общества и человечества[^18]. Пессимизм.

Во время выступления в Вашингтоне Смит заявил, что в контексте изучения потенциала искусственного интеллекта его больше всего беспокоит, что с помощью новых технологий можно создавать фейки — ложный контент, неотличимый от настоящего[^19]. Пессимизм.

Как показывают опросы, 94 процента компаний уверены, что искусственный интеллект способствует успеху организации. Он применим абсолютно во всех сферах, внедряется в сервисы и создает новые миры. Например, генерирует дизайн (двигателей, зданий и другое), синтезирует новые материалы, создает 3D-карты городов, презентации и лекарства, занимается расшифровкой генома и мониторингом урожая[^20]. Оптимизм.

В мае 2023 года сотрудники Эдинбургского университета представили метод на основе искусственного интеллекта, ускоривший выявление сердечного приступа[^21]. Оптимизм.

В нашем случае получается схожий результат. Четыре случайных статьи новостного портала, раскрывают исключительно односторонние взгляды, два оптимистичных, два пессимистичных. Наверняка существуют публикации, где в полной мере освещаются перспективность технологии и риски с ней связанные, однако быстрый поиск не позволил выявить. Вновь повтори, подобный анализ, может воспроизвести любой исследователь, используя в качестве материала, новостные публикации за определенный период или публикации из социальных сетей. Более того мы призываем это сделать – это увлекательное занятие.

Большая выборка статей, позволяет выявить следующие тренды:

  • Потеря контроля человеком над миром, последнее время более чем в три раза превышает этот же параметр в 1980 году.
  • Волнения морального и этического характера, также участились. Человек переживает, что мы создадим машину, которая сможет принимать решения, однако машина не будет обладать моральным кодом свойственным человеку.

В то же время, наравне с публикациями выражающими беспокойство, имеется равный объем материала, связанный с перспективностью технологии.

  • Медицина, благодаря ИИ, может получить неожиданную помощь от технологий ИИ в вопросах поддержки пациентов, которым требуется уход, напоминание о приеме медикаментов, например.
  • Раннем диагностировании заболеваний, выявлению шумов сердца, анализе генетических предрасположенностей к болезням.

В целом ИИ упоминается во множестве областей: военное применение, принятие решений, работа, кибернетика, образование, развлечение, философия и этика. В анализе каждой можно встретить позитивные и негативные тренды, однако один тренд имеет единственную тенденцию, негативную. Риск потерять контроль.

Несмотря на то, что последние десять лет, общество ожидает больше положительного от технологии, страх потерять контроль над искусственным разумом все еще доминирует в сознании общества. Чего мы боимся? Что нас поработят? Будут манипулировать? Наши желания станут, вдруг, не нашими, а чем-то продиктованными. Настанет технологический апокалипсис и роботизированная нога раздавит человеческий череп? Неизвестно, одно лишь ясно, что вместе со страхом мы движимы любопытством, а это как-никак первый шаг к открытиям. “А что если… ?”

А что если …:

  • при помощи ИИ и алгоритмов глубокого обучения найдем внеземную цивилизацию. Этим заняты исследователи проекта “Галилей”?
  • ИИ и ассистенты, работающих на их принципах освободят ценное время, которое мы тратим на уборку, приготовление еды и поддержание хозяйства в чистоте?
  • найдем способ увеличить продолжительность жизни?
  • научный поиск и написание статьи будет требовать значительно меньшего времени и ресурсов?
  • слепые от рождения дети, вдруг обретут зрение, а глухие слух?
  • люди искалеченные обстоятельствами, смогут снова интегрироваться в общество, благодаря новым технологическим, умным протезам и “биогаджетам”?

Подобных “А что если …?” каждый читающий, может привести несметное множество. Попробуйте и напишите в социальных сетях, по хэштегом “ачтоесли…”

Да да да. Всегда нужен человек, нажимающий на спусковой крючок и копающий землю ))

В этом и прелесть. Это случилось ни вчера и не сегодня, но паника только нагнетается. Есть мнение, что причины у этого совсем иные ))
Я тут начал писать вторую часть исследования, где пытаюсь раскрыть потенциальную пользу от всего этого хозяйства.

Технолуддит против техноевангелиста

Суть противостояния проста, одни хотят развития технологии, другие ограничение технологии. Если с первыми все более или менее ясно, всегда найдутся те, которые станут первыми пользователями технологии. Те от которых зависит успех и развитие нового. Те кто находится на самом изломе кривой инновации. Те кого меньшинство, но кто упорно пытается склонить чашу весов в сторону повсеместного использования технологии.

Вторые, чего-то испугавшись или сконструировав, некоторую “реальность”, которая продиктована никак не здравым смыслом, а тем как какой-то феномен представляется общественности. В нашем случае Голливудом и новостными агентствами, пытается остановить развитие. До сего момента в исследовании не занималась никакая позиция, однако настал тот момент, когда каждый читатель может сделать это выбор самостоятельно. Попробуйте, перечитать еще раз, только теперь внимательней, и ответить на простой вопрос: “Действительно ли мое мнение, мое или оно кем-то навязано?”

А в завершение, предлагаю взглянуть на два совершенно разных взгляда на вопрос безопасности ИИ. Первый представлен Юваль Ной Харари, ученым, историком и философом. Он выражает совершенно здравую мысль, что человеческий культурный код зашит в речи и языке, который используется для передачи смыслов, а человек с появлением ИИ потерял эксклюзивное право обладания на код. Вывод, сформулированный Харари контрастирует с позицией вашего покорного слуги, которая будет представлена следом.

Юваль Ной Харари считает, что ИИ взломал операционную систему человеческой цивилизации

Статья в оригинале, находится на сайте the Economist[^14], любой желающий может с ней ознакомится. Мы лишь приведем основной тезис и используемые Харари доводы.

Человеческая цивилизация зашифрована в речи, языке, который используется для передачи смыслов. Деньги, религия, права, которыми обладает каждый от рождения, зашифрованы в речи. Смысл того или феномена передается словами, наша культура есть не что иное, как слова обличенные смыслом. Наша история является словами, записанными кем-то когда-то. И вот у нас появился ChatGPT, которые может манипулировать словами и понятиями, быстрее и ловчее чем обычный человек.

Благодаря этому, алгоритм, сам того не ожидая может создать что-то, чего раньше не существовало, например религию. Или повлиять на предвыборную гонку. А может и эти строки написаны ИИ? Кто знает. ИИ, в том виде в котором существует сегодня, необходимо запретить, или по крайней мере серьезно ограничить, в противном случае нас ожидает “конец демократии”.

Примерно в эти три абзаца можно упаковать эссе, размером чуть более чем тысяча пятьсот слов. Однако на развитие ИИ можно посмотреть и с иной стороны, которая не нашла отражения в современном дискурсе, по крайне мере не так явно и громко. Техноевангелисты не трубадурят, а молча и тихо делают свое дело.

Краткий промежуточный вывод

ИИ, в современном его виде, неспособен никаким образом причинить вред человеку, однако мы активно пропитываемся культурой ненависти к технологии. Голливуд не создает образ доброго ИИ. Конечно, не все что делает “фабрика грез”, представляет злой ИИ. Однако подавляющее число историй, опирается, в той или иной форме на страх человека потерять контроль. Перестать быть единственным хозяином планеты, творцом среды обитания, рассказчиком, учителем, строителем и мастером своего дела. Действительно сложно оставаться экспертом, когда интеллектуальная машина может сделать то же самое, быстрее и лучше. Невольно вспоминаются слова Уилла Смита из кинофильма “Я робот”:

У меня есть идеи для рекламного ролика вашей компании. Мы видим, как столяр делает чудесное кресло. А потом появляются роботы, делают кресло вдвое быстрее и вдвое красивее. И тут надпись на экране. USR. Смешаем с дерьмом людей. И уход в затемнение.

Боятся потерять контроль – это еще ничего, но вот перестать быть мастером своего дела, действительно страшно.


Список литературы

Вот тут, на мой взгляд, есть некоторый пробел в аргументации у Харари, т.к. кроме языка у нас есть еще и музыка, танцы, скульптура, архитектура и многие другие вещи не связанные с языком. Да язык упрощает многие вопросы коммуникации, но люди могут общаться и без языка. И значит операционная система цивилизации не равна только языку.

Евангелисты трубадурят почти также, например, Сэм Альтман1, 2, но истерики в их текстах значительно меньше и они готовы договариваться.
В итоге, кажется, что какой-то вариант договоренноссти будет достигнут.

Мне кажется язык доминирует в виде инструмента передачи смысла. А так да, речь – не единственный способ зашифровки смысла. Но музыка тоже выражена в речи, музыкально, для которой есть ноты, которые тоже написаны.

Ну да, спокойней и методичней делают свою работу.

Пока читал формировались мысли которые подтверждались позднее текстом. Интересный опыт.

  • подумалось что увеличение страха потери контроля может быть связано с тем что человечество так или иначе думает о том что оно делает херню откровенную на разных этапах и сферах своей жизни, но повлиять на это почему-то не может и чем дальше тем больше бреда. и в какой-то момент у ИСКИНа будут все аргументы для того чтоб изменить это. не даром кроме фильмов про роботов полно и фильмов катастроф где к людям кто-то приходит извне и говорит “ну докажите что вы имеете право на существование, а то чет мы думаем что нет ибо херь творите”. и главный герой доказывает. смешно что главный герой а не человечество. возможно это неспроста
  • по поводу того что человечество боиться потерять работу, я подумал о том что человечество возможно боиться стать вообще бессмысленным и бесполезным. тут 2 фактора:
  1. если ты бесполезен для всего и вся это удручает прям сильно, впору выпилиться, теряется смысл жизни. (ну по крайней мере у тех кто хотяб об этом думает). не нужен, не признан. сейчас успех регламентируется твоей незаменимостью для общества, не обязательно в профессии, это может быть в отношениях, в эмоциях для других, в удобстве, в чем то чем ты можешь повлиять на социум. если это убрать, то наступает вроде бы самодостаточность. но тут вообще отдельная тема что дальше.
  2. если все отдать ИСКИНУ развязываются руки. человек не знает чем себя занять и сходит с ума в прямом и переносном смысле. не даром есть “у богатых свои причуды”. а так же может быть кто-то встречался с тем как ведет себя сидящая дома неработающая жена.

У меня есть ощущение, что когда момент настанет, когда за нас эта балаболка будет что-то делать. Человек придется найти себя в чем-то другом. Если говорить о сидении дома, то и это можно делать с умом.

В заключительной части, третьей, сейчас написана только первая и на четверть вторая, как раз об этом буду “думать”, что делать и какие навыки нам придется перестраивать. А то что придется – однозначно.

Ощущение неправильное. “Эта балаболка” уже “что-то делает за человека”. Нейросети уже распознают машины в потоке, определяют их регистрационный номер и факт нарушения правил ПДД. По сути машина уже сейчас выписывает штрафы, например за нарушение разметки. Человек раньше просто не мог этого делать.

Развитие ИскИна идет в двух направлениях.

  • Замена труда креаклов. Их это пугает и они бьют тревогу об исчезающей кормушке.
  • Развитие управления в целом и управления обществом в частности. Социальный капитал. Рассмотрение мелких судебных дел ИскИном в автоматическом режиме. Креаклов это тоже пугает и они придумали звучное название “Цифровой концлагерь”.

Нет смысла поддерживать чью то истерику. Есть смысл выделять и разрабатывать два направления:

  • как человеку изменить свои навыки с появлением таких выдающихся помощников;
  • где надо применять выдающихся помощников в первую очередь.
1 лайк

Ну так это привело к упразднению ненужной работы, стояние с радарами по кустам. Что в свою очередь привело к использованию высвобожденного ресурса в чем-то ином, например раскрытии преступлений или “думании” о том как сделать лучше дороги.

В целом их не жалко, но мне кажется это так не сработает. Почему, не знаю, просто ощущение и впечатление.

Вот ровно про это у меня третья часть истории. Какие навыки и как нужно изменять. Пока ковыряюсь с универсальностью интеллектуальной машины. Получается, кмк, вполне не плохо. Может уже публиковать частями. Не знаю, может быть.

Вероятно вы а/м не водите.) Ещё одно подтверждение о важности понимания предметной области для вынесения суждений. (

Вожу лет как двадцать.

Последнее время меньше чем, скажем 5 лет назад. А так бывало по 12к км в месяц накручивал. И сейчас да, системы интеллектуального анализа дорожных нарушений работают в разы лучше.

Например можно обилетиться за то что держишь тел в руке за рулем. Мне присылали.

А что имело ввиду по суждениями, где-то не прав?

Первые тринадцать лет вашего стажа за нарушения разметки практически не ловили. Только если машина ГИБДД стояла сзади в том же ряду и водитель или напарник видели как произошел разворот через сплошную.

Потом сделали разметку для общественного транспорта и систему контроля за а/м, пересекающими разметку. В результате выросло количество штрафов за разметку, кое где стало не перестроиться, и на общественном транспорте передвигаться стало быстрее. На количестве бойцов спецбатальонов это никак не сказалось. В результате камеры для разметки обеспечили изменение (улучшение) дорожной обстановки в городе за счет нового качества, которое бойцами было не обеспечить. Произошло улучшение качества среды без влияния на занятых.

А вы же в курсе как изменился численный состав батальонов, осуществляющих патрулирование?

Начиная от ГИБДД до ППС. И как изменилась природа их деятельности всех остальных? Не через умозаключение, а вот прямо ножками пойти до ближайшего отдела и спросить? Ну или может в семье есть следаки с земли? Они ничего не говорят?

На старой квартире был сосед. Сейчас нету.

Вы хотите сказать, что в результате ввода камер на сплошные линии сократили количество инспекторов ГИБДД? Тогда это интересный пример решения без понимания сути. Интересно - на каком уровне было принято такое мудрое решение. (

Тогда я лучше думаю об эффективности бюрократии. Но я и не разбираюсь. (

Инспекторов, врачей, учителей. Тренд на укрупнение не просто так появился. Розничные сбыты укрупняются, а сотрудники сокращаются. Я сам был исполнителем одной такой “оптимизации”. Работы стало больше, а работников меньше. Тут все на тоненького. Где-то сработало, а где-то еще нет.

В такой формулировке это звучит как «Количество утонувших выше всего в месяцы повышенного потребления мороженного. Надо сокращать производство мороженного для снижения смертности от утопления.»

Ключевые открытия, предшествовавшие появлению ИИ

Невозможно и в десяти книгах пересказать обо всех наиболее значимых технических открытиях, которые привели к появлению нейросетей, чат ботов, больших языковых моделей, известных сегодня ИИ, которые используют принципы глубокого обучения. Однако как нам кажется есть несколько этапов, без которых текущий уровень прогресса был бы не возможен. На них и сконцентрируемся и “атакуем” исключительно с практического угла, то есть посмотрим каким образом технология улучшила жизнь человека. А также как потенциал имеет.

Иными словами, если в первой части нам был интересен воображение и представление ИИ, то следующим логичным шагом было бы любопытно посмотреть на то как технология используется. Попробуем найти ответ на вопрос: “Как интеллектуальная машина, помогает человеку?” А вместе с ответом на этот вопрос попробуем столкнуть взгляды технолуддитов и техноевангелистов. Посмотрим оправданы ли их страхи или это буйство воображения, возбужденного Голливудом и последними новостями.

Как уже сказано, изобретений в области ИИ, огромное множество, однако практический интерес ведет от более глобального взгляда на технологию, к более узкой и вот в чем, как нам кажется, интересно было бы разобраться:

  • 1940 год. Алан Тюринг, изобретает “Bombe”, криптографическую машину, взламывающую код “Энигма”.
  • 1961 год. Джозеф Энгельберг и Джордж Девон, патентуют и создают роботизированную руку для автоматизации производств.
  • 1965 год. Появление первого чат бота. Джозеф Вейзенбаум из МТИ, создает ЭЛИЗУ. Программу способную поддержать диалог на английском язык по заданной теме.
  • 1979 год. Ганс Моравек, проектирует первую машину, которая управлялась с компьютера. Она проехала самостоятельно по комнате обставленной стульями, не сбив ни одного стула.
  • 1997 год. Удивительное поражение Гарри Каспарова, компьютерной программе Deep Blue.
  • 1999 год. Компания “Сони”, выпускает на рынок роботизированного питомца AIBO.
  • 2008 год. Проект DARPA представляет инвесторами первого голосового ассистента SIRI, который в 2010 году был выкуплен Apple и в 2011 представлен публике в iPhone 4s.
  • 2009 год. Google строит полноценный автомобиль, управлением которым осуществляется компьютером.
  • 2011 год. Watson, созданный IBM, побеждает человека в игре “Своя игра”, на английском Jeopardy!
  • 2011-2014 года. На рынок выходят сразу несколько голосовых ассистентов. Siri от Apple, Google Now от Google, Cortana от Microsoft.
  • 2015 год. Alpha Go, впервые побеждает человека в игре ГО, а годом позднее одерживает победу на лучшим игроком планеты.
  • 2022 год. OpenAI, открывает доступ к ChatGPT.

Мы попробуем взглянуть на каждое из технологических чудес с точки зрения пользы, которую они принесли человеку на момент написания. Немного поразмышляем о том какой потенциал имеется у каждой из технологий. Какие-то изобретения, увлекут нас больше чем другие, но это не значит, что, например, робот AIBO оказал меньшее влияние на поведение человека, чем Alpha GO. Об игре го, интересней размышлять чем о роботе питомце, в силу увлечения игрой автором этих строк, не более.