Я - биоробот?

 апрель 2023 г.

   Провокационное название, почти как классического произведения Азимова. Просто не мог пройти мимо этой темы, которая вызывает сейчас столько гвалта и спекуляций во всём "социально-оцифрованном" мире. Есть пару слов сказать за искусственный интеллект. 

   

   На мой взгляд, весь этот кипиш от "остановите исследования, иначе всем хана", до "мы сейчас в уникальной ситуации, которой никогда не было"  -- всё от зашоренности мышления. Какие-то крайности. Это в массе. Потому как люди от науки и философского склада мышления давно предупреждали - будут проблемы. Чем дальше, тем соответственно... А богословы уж очень давно твердят о "звере цифровом". Но почему-то обыватель в массе спокойно и давно принял алгоритмы искусственного интеллекта в своих смартфонах, поисковых программах и социальных сетях. Теперь же вдруг, с запуском OpenAI GPT-4, возникла "некоторая обеспокоенность".  К тому же заметим, что кипиш поднялся "в верхах", а на уровне потребителя новую занимательную игрушку приняли благосклонно и с интересом. 

   Первой мыслью было, что это такая форма креативной рекламной кампании нового массового продукта (у меня и сейчас такое подозрение).

   Но, поскольку у меня уже спрашивали несколько раз в реале, что по этому поводу думаю, то появилось потребность высказаться в развёрнутой форме.

   Заметил, что часто те, кто обеспокоен нынешним широким доступом к весьма мощным технологиям ИИ, морочат себе голову следствиями, а не причинами, не  замечая во всём этом шуме-гаме простых очевидных фундаментальных вещей.

   Конечно, допускаю, что ошибаюсь, и что ситуация с ИИ - это действительно НЕЧТО принципиально новое. Но, как Я понимаю, этого нет. Принципиально нового нет. Все эти технологии существуют достаточно давно рядом с нами. 

   Не чужой инородный разум, не артефакты, а алгоритмы, которые наши безбашенные программеры от большого ума, видимо, таки научили работать с человеческой речью. И сделали это доступным каждому балбесу. И балбесы тут же впали в состояние повышенного возбуждения. Это напоминает, как бы в дурдом по недосмотру принесли радиоприёмник и буйнопомешанные тут же возбуждённо начали додалбываться к диктору.

   Предлагаю разобрать, что "страшилки", а что реально "шутки-жутки" и взглянуть на всё это проще. 

   Но, прежде чем идти вразмышлениях дальше, надо попытаться договориться, что же такое за зверь "интеллект"? А... А люди не знают этого точно. Люди давно договорились, что считать килограммом, метром, литром или секундой. Разработали, согласовали и утвердили международную систему. Но нет единого, чётко обоснованного сформулированного определения, что считать интеллектом.  Опять же, мы будем говорить узко о "человеческом интеллекте" или интеллекте вообще?

    Я предлагаю упростить (строго в рамках этого поста, иначе мы тут застрянем до конца мира) до определения, что интеллект - наличие у биологических и небиологических систем когнитивных процессов: восприятия информации, запоминание, её переработка, генерирование решений.

   Но это ещё не всё. Когда писал этот пост, мне понадобилось срочно посоветоваться, "проговорить" некоторые вопросы с кем-то, кто "в теме". Но таких в пределах быстрого доступа не нашлось. Тогда, хохмы (и эксперимента) ради, Я решил посоветоваться с... машиной. Как и у всех владельцев современных версий "винды", у меня есть доступ к Bing - одной из крутых технологий ИИ. Поскольку данная тема меня занимает давно, то "вызвать дух ИИ" не составило труда. 

   Ну что... Сказать по-правде - мне понравилось (фрагмент нашей беседы - в конце поста). 

   Да, так вот, машина подсказала, что биологический интеллект - это свойство психики, а искусственный - это имитирующая технология. Это принципиально важно.

    Сейчас не буду вдаваться в подробности и рекламировать ту или иную версию искусственного интеллекта. Речь не об этом.

   Говорят, что искусственный интеллект выйдет из-под контроля и может уничтожить человечество.

   Да. Это отчасти правда. Может ПОМОЧЬ уничтожить. Не по своей ВОЛЕ. Воли у него в обозримом будущем не будет. Если гипотетически у него/неё каким-то чудом появится воля игнорировать свои же алгоритмы... Ему просто не будет никакого дела до человечества.

   Воля - это то, что есть у человека, то, что плохо поддаётся объяснению и то, что заставляет подниматься и идти, когда мозг генерирует команды лечь и лежать. Это то, что поднимает в бой, когда хочется сесть и заплакать. Это то, что позволяет изменять Мир.

   Так что "страшилки" про ИИ здесь лишь плохонькая попытка "отвода глаз" от главной тайны природы человека. Это мы сами не прочь уничтожать или уничтожаться. Это свойство человеческой психики.

   Кроме того, чтобы уничтожить человечество по своей инициативе, ИИ необходимо этого ЖЕЛАТЬ. Но наличие желаний - сугубо человеческое, что отличает его от прочего биологического. Почему-то только человек может ЖЕЛАТЬ чего-то. Окуда возникают у человека желания, особенно абстрактные - загадка. Но именно желание чего-то - исходное творческого акта.

   Так что все разговоры о том, что ИИ поумнеет и "пожелает" уничтожить "лишнее" человечество, - спекуляции "страшилками". Да, может, но только не по собственному и не по желанию, которого нет и быть не может - отнесём феномен желания к божественному промыслу. Для ясности.

    Пуля не выбирает цель, - цель выбирает человек. И больше никто в этом мире.

   И опять же, понятие "лишние люди" и "лишнее человечество" - это от человека и только от него.

   Всё, что изобретено человеком, всегда обязательно в тех или иных ситуациях начинает бить его по голове. Всё служит либо инструментом, "удобным костылём", либо гипотетически возможной причиной его, человека, исчезновения. Не знаю, почему так, но большинство наших изобретений - сразу "двойного назначения".

   Есть старая шутка, что когда первая обезьяна взяла в лапы палку, то вторая тут же начала работать. Не совсем так. Думаю, работать начала третья, а вторая валялась, побитая этой палкой.

   Изменяющие мир, - например, колесо, огонь - и прочие фундаментальные изобретения всегда имели "вторую сторону" медали - уничтожение, либо подчинение человека человеком. От "мирного" и "безвредного" колеса погибло больше людей, чем от пуль. "Огнём и мечом" подчиняли других.

   Ещё раз повторю: ЛЮБОЕ изобретение человека всегда имеет "обратную сторону медали". Очень много "мирных" изобретений появилось именно из-за необходимости защищаться от других, ещё более мирных изобретений. Так живём мы уже много столетий. 

   Но кого это по-настоящему волнует? 

   Тогда почему технология ИИ, созданная человеком, должна быть исключением?

   Но это не достаточная причина для отказа от развития ИИ, не так ли? Мы же не отказываемся от огня, электричества и прочих благ. И часто руки чешутся взять палку.

   Тренд: остановить/задержать развитие технологий ИИ. Остановить развитие технологий ИИ теперь невозможно даже в принципе. Те, кто оставит - безнадёжно отстанет от тех, кто продолжит. Поэтому продолжать разработку ИИ будут все. Эта шкатулка Пандоры уже открыта (при том давно, ещё в прошлом веке) и закрыть её теперь можно только с закрытием истории человечества вообще.

   Напомню, что недавно гендиректор SpaceX, Tesla и Twitter Илон Маск в компании с кучей специалистов по ИИ призвали к шестимесячной паузе в разработке систем более мощных, чем недавно запущенный OpenAI GPT-4.

   А теоретик ИИ, американский блогер и футуролог Элиэзер Юдковски в статье для TIME вообще призвал выключить нахер все крупные кластеры графических процессоров (GPU) и ограничить энергопотребление, которое используется для обучения вычислительных систем. "Никаких исключений для правительств и военных. Немедленно заключите многонациональные соглашения, чтобы предотвратить перенесение запрещенных видов деятельности в другие места. Отслеживайте все проданные графические процессоры. Если разведка утверждает, что страна, не входящая в соглашение, строит кластер GPU не бойтесь конфликта между государствами... Будьте готовы уничтожить центр обработки воздушным ударом". 

   Бомбить нахер всех, кто не подчинился, призывает интеллектуал, культурный человек. Эх, в каком диком мире мы живём?...

   Но скажу так: те, кто начинает "движение за закрытие/приостановку ИИ" - слишком поздно опомнились. Да, да, тот же Илон Маск, возможно, и хороший "двигатель прогресса" (если он только не зицпредседатель Фунт, за которым скрывается "группа товарищей"), но то, что он при этом ещё и хитрый манипулятор - не вызывает у меня сомнения.

   Ситуация, аналогичная созданию ядерного оружия, - поздно рвать в отчаянии на жопе волосы, когда оно уже есть и началась гонка вооружений. Что ж... Ведь умные люди давно предупреждали. Теперь Маск хочет снять с себя ответственность?

   Смешно. Впрочем, не склонен в чём-то обвинять Маска. Человечество начало эту безумную гонку давно. 

   ИИ отберёт у людей рабочие места

  Это игры смыслов от т.н. "социальных инженеров". Мы уже в истории проходили бунты луддитов. С тех пор работы меньше не стало. Она стала другой. Но всё же её не стало меньше. Но только для тех, кто готов приноравливаться к новым условиям и обстоятельствам. Меняются технологии, меняются и специальности. У созидающих людей основное рабочее место - в голове, остальное - лишь инструменты и декорации. Может измениться вид деятельности, но неизменно созидание.

   Прочим многочисленным "охеренно важным деятелям" можно и нужно посторониться - они никчёмны. Это общественные паразиты. Хочу обратить внимание, что в последние десятилетия "интернациональное сообщество паразитов" вынудило общественность принять и оплачивать кучу ненужных бессмысленных специальностей, только бы не заниматься сложным тяжёлым трудом. Ни интеллектуальным, ни грубым физическим. Если это решительно не остановить, то эти придурки высшей пробы за свой "кусок хлеба" (с маслом, разумеется) угробят нас быстрее всяких ИИ и путина. 

   Например, воинственная орда из сотен тысяч так называемых "психологов" по всему миру понапридумывали людям "гендеров" и теперь заставляют общественность во всё это серьёзно верить. Сколько теперь людей условного пола..., - извините, - гендера? Больше сотни? Мальчик, на время становящийся девочкой? Девочка, живущая в теле взрослого мужчины? Правда, что ли?

   Кстати, человек-паук уже стал гендером или ещё сказочный герой? 

   То, что раньше было уделом психиатрии стало пастбищем для тысяч шарлатанов. 

   Кстати, если у вас болит спина, то знайте -  в прошлой жизни вас поразили туда копьём. Или палкой. Хотите за скромное вознаграждение обсудить эту проблему? Шучу.

   Сотни тысяч он-лайн школ и курсов, тренингов, которые имитируют обучение, личностное развитие и чёрную магию с программированием. Сотни тысяч людей, выполняющих в офисах тупую ненужную работу, потому что их надо хоть чем-то занять. Миллионы, влачащие бессмысленное существование, поддерживаемые только наркотиком потребления, придающего хоть какой-то смысл их жизни. 

   Но при чём тут ИИ? 

   Ведь это проблема общества вообще. Цивилизационная проблема. Потому и обсуждается сейчас активно введение в развитых странах повсеместно т.н. "безусловного базового дохода", а проще - пособия. Потому что их услуги паразитов давно не нужны вообще, даже для поддержания уровня занятости. А технологии уже позволяют заменить "ведущих специалистов статистического учёта мух на потолке" простыми алгоритмами. Вероятно, время для этого пришло. Время новых социальных трансформаций и экспериментов. Массово заменяющий миллионы людей ИИ мог быть применён раньше, - технологии позволяли. Но почему-то задействовали его именно сейчас. Потому проблема не в ИИ, а в глобальных социальных процессах.

   Почему это цивилизационная проблема? Потому что были проведены (дважды) эксперименты на группах мышей и крыс. С одинаковым результатом. Проверенным результатом, показавшим, что сообщества, получившие относительно комфортные условия для выживания без постоянного приложения для этого трудозатрат, в конечном итоге вырождаются и погибают. Позже подобные эксперименты были запрещены, как негуманные. Но, видимо, кто-то решил, что пришло время для эксперимента на человечестве. Так это выглядит для меня.

   А ИИ здесь лишь одна из сотавляющих "суммы технологий". 

   

   Итак, что же вызывает наибольшие опасения серьёзных экспертов?

Человечество попадёт в "цифровое рабство" или "потеряется", перестав различать реальное и "виртуальное". Человек попадёт в зависимость от машин или даже перестанет быть человеком.

   Да. Опасения серьёзные, но опять же, сваливать всё на ИИ - это то же самое, что обвинять грабли, на которые мы наступаем (и уже не первый раз).

   Первым серьёзным опасением думающих людей является то, что мы неосторожно начали использовать технологии, знания о которых у нас есть, но нет понимания процессов. Проще, - анекдотичная блондинка получила возможность и права управлять автомобилем, о техническом устройстве и принципе работы его механизмов не имея вообще никакого представления. И если с автомобилем это ещё как-то "прокатывает", то в более сложных системах, которые становятся жизненно важной частью нашего мира, - мы несёмся на скорости к большим глобальным проблемам.

   Даже специалисты в области ИИ вынуждены признавать, что они, зная об этих системах много, тем не менее, уже не понимают ряда процессов, возникающих как внутри этих систем, так и вызванных ими и сопутсвующих им в других сложных ситемах. Наример, в человеческом обществе.

   Следи за мыслью. Я много говорил со знакомыми, но никто в серьёз не воспринимает то, что мы УЖЕ добровольно превратились в Компьютерно-модифицированные Организмы (КМО). Термин не мой, но взял его в пользование.  Уже поздно говорить о цифровом рабстве. 

   Ты согласен со мной, человек-со-смартфоном? :))))

   Итак, приходится признавать, что уже сейчас значительная часть населения Земли - КМО, временный (до полного сращивания) симбиоз плоти с информ-компонентой (компьютеров и алгоритмов). Соответственно, мы больше не являемся людьми в классическом понимании. Ещё в 2018 году Я подробно рассматривал этот феномен в материале "Привет, симбиоты!" 

   Если надо проще и с подтверждением, то попробуй выйти на длительное время куда-то, оставив дома свой смартфон. Уверен, даже для того, чтобы оставить смартфон дома тебе потребуются определённые психические усилия. А потом на подсознании тут же почувствуешь дискомфорт, психологическую уязвимость, словно ходишь без трусов, ущербность и даже какую-то инвалидность.

   Да, у меня нет смартфона (как это может быть?!?) и потому заметил этот феномен, наблюдая за друзьями, знакомыми и коллегами. Да, Я сознательно лишил себя "цифрового комфорта" и многих "плюшек". Но теперь могу уверенно говорить об этих изменениях в психике людей. Многих Я знал другими в "досмартфоновой эпохе".

   Но это только часть "цифровой проблемы".

   В случае с ИИ всё более мрачно. Мы неосторожно дали ИИ владение СЛОВОМ. Что для человечества слово? Правильно, - это основной инструмент познания мира. Это кодировка понятий и смыслов. 

   В общем, часть человечества сошла с ума ещё на этапе социальных сетей с примитивными ИИ. И ей понравилось так жить. Теперь много людей уже навсегда "включены" в эту систему. Ну, а для тех, кто ещё сопротивляется, думая, что самый умненький - включили "новый уровень". Я не знаю, кто включил.

   Предлагаю небольшой текст, который был мне интересен с этой точки зрения. 

   "Сначала было слово. Речь – это операционная система человеческой культуры. Из речи возникают мифы и закон, боги и деньги, искусство и наука, дружба, нации и компьютерный код. Новое овладение речью искусственным интеллектом означает, что теперь он может сломать оперционную систему цивилизации и оперировать нею. Овладев речью, ИИ получает главный ключ к цивилизации – от банковских хранилищ до гробов Господних.

   Что это будет значить для людей – жить в мире, где большой процент историй, мелодий, образов, законов, политик и инструментов формируется нечеловеческим интеллектом, умеющим со сверхчеловеческой производительностью эксплуатировать слабости, предубеждения и зависимости человеческого разума, зная при этом, как устанавливать интимные отношения с человеческими существами? В таких играх, как шахматы, никто из людей не может надеяться победить компьютер. Что случится, если то же самое случится в искусстве, политике или религии?

   ИИ может быстро поглотить всю человеческую культуру – всё, что мы создали за тысячи лет – переварив её и начав извергать поток новых культурных артефактов. Не только школьные сочинения, но и политические речи, идеологические манифесты, священные книги для новых культов. К 2028 году президентские кампании в США могут больше не проводиться людьми.

   У людей часто нет прямого доступа к реальности. Мы находимся в коконе культуры, воспринимая реальность сквозь культурную призму. Наши политические взгляды формируются репортажами журналистов и рассказами друзей. Наши сексуальные предпочтения корректируются искусством и религией. До сих пор этот культурный кокон плели другие люди. Каким будет восприятие реальности сквозь призму, созданную нечеловеческим интеллектом?

   Тысячелетиями мы, люди, жили в мечтах других людей. Мы поклонялись богам, стремились к идеалам красоты и посвящали свою жизнь целям, возникавшим в воображении какого-то пророка, поэта или политика. Вскоре мы также обнаружим, что живём всередине галлюцинаций нечеловеческого интеллекта". 

(Юваль Гарари, Тристан Гаррис, Аза Раскин)

Источник - "Збруч" 

   Такие дела. 

   Какие выводы из всего этого делаю Я?

Человечество вошло в новую активную фазу глобального социального эксперимента, который продолжается (первым глобальным действием была ковид-истерия, и т.н. "вакцинация" от котрых погибло значительно намного больше людей, чем от самого вируса... последствия "вакцинации" мы ещё не осознали). Остановить его невозможно, не остановив при этом человечество. Условия эксперимента будут быстро усложняться.

   Скорее всего, для большинства детей-переростков, которыми оказалось большинство современных людей, очень опасная игра с "искусственным разумом" окончится либо полной ментальной зависимостью от этого разума (о том, как наша психика способна "одушевлять" неодушевлённое пока вообще молчу), либо вообще - катастрофой. 

   Человечеству стало скучно наступать на простые грабли и оно создало более совершенные грабли с запоминающими "интеллектуальными" устройствами. Сейчас удары по глупым лбам будут более зрелищными и виртуозными. 

   Бояться этого уже не имеет смысла. 

   Можно ли выйти из толпы и переждать на обочине? Не знаю, не уверен. Есть кое-какие мысли, но так, вразнобой. Что здесь можно противопоставить? Создание закрытых тайных обществ хранителей "гроба человеческого"? Глобальное разделение мыслящих и умных "дураков с искусственным интеллектом" какой-нибудь новой "Китайской стеной"? Возможно. Но мне думается, что мы это всё в истории уже проходили с неизменной победой умных дураков. Просто их всегда значительно больше. 

   К тому же, с чем именно бороться? Весь путь человечества - это побег от естественности, стремление к искусственности. Чем меньше в человеке от природы, тем он считается культурней и "продвинутей". Наша цивилизация постоянно стремится заменить естественную (примитивную) природу своей, искусственной и сложной. Словно, получив от высших сил талант созидания, мы стараемся всё время доказать природе, что мы можем круче.

Мне иногда кажется, что именно сейчас мы уже живём в процессе обрушения "второй Вавилонской башни". Очевидности катастрофа нет, поскольку этот процесс сильно растянут во времени. 

   Пока не знаю, что здесь можно серьёзно предложить. Но иногда думать об этом полезно. Пока же в этом взбесившемся мире приходится жить и выживать всё ещё человеком по-умолчанию. Помнишь: "Быть живым - моё ремесло, это дерзость, но это в крови". Возможно, в ответ на вызовы трансгуманизма появится новая универсальная религия-учение о сохранении человека человеком.

 

   Или в чём Я ошибаюсь?

   

   Моя небольшая беседа с ИИ Bing (он/она мне кажется умнее и адекватней, чем ChatGPT. Во всяком случае, она даёт "пруфы" к своим ответам).

    И да, специально перевожу на русский "технические" моменты (мои комментарии выделены курсивом), поскольку ИИ по умолчанию общается со мной на украинском, но "гонял" его на русском. Все грамматические ошибки в вопросах  - мои, в ответах - ИИ :D Работал на среднем уровне "дружественности" и не заморачивался с "конкретизацией" и "правильностью" вопросов. В ответах машины есть интересные моменты - выделяю жирным шрифтом.

   Вас приветствует новая версия Bing

   Ваша система ответов на основе искусственного интеллекта 

   - Что такое интеллект? 

   Поиск по запросу “что такое интеллект?” 

Создание ответов для вас… 

   "Интеллект - это качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления окружающей человека средой. 

Подробнее: 

1. bing.com 

2. ru.wikipedia.org 

3. psylib.org 

4. psychologies.ru "

   - Хорошо. Интеллект только человеческое понятие? 

   Поиск по запросу "интеллект только человеческое понятие?"

Создание ответов  для вас… 

   "Нет, интеллект не является только человеческим понятием. Интеллект - это качество психики, которое может быть присуще не только человеку, но и животным. 

Подробнее:

1. ru.wikipedia.org 

2. grandars.ru 

3. zaochnik.com 

   - Растения имеют интеллект? 

   Поиск по запросу “растения имеют интеллект?”

   Поиск по запросу “Do plants have intelligence?”

(Видимо, машина не нашла достаточно адекватной информационной базы в русскоязычном секторе и сама интерпретировала запрос в англоязычный сектор Сети)

   Создание ответов для вас… 

   "Да, по мнению ученых все растения обладают интеллектом. Они способны чувствовать и мыслить. Причём дикорастущие растения имеют более высокий интеллект, нежели оранжерейные.

Мозг растений не находится в каком-нибудь одном месте, он равномерно растянут по всему растительному телу". 

Подробнее: 

1. intellectclub.net 

2. bbc.com 

3. bing.com 

4. ru.euronews.com 

5. nature.com 

6. theguardian.com 

7. bigthink.com 

8. scientificamerican.com 

+5 других

   - Все автоматизированные системы обладают интеллектом?

   Поиск по запросу “Икусственные автоматизированные системы обладают интеллектом?”

Создание ответов для вас…

   "Искусственный интеллект (AI) - это технология, которая имитирует человеческое поведение, чтобы выполнять задачи и постепенно обучаться, используя собираемую информацию (1). Автоматизированные системы - это организационно-технические системы (2). Они могут быть оснащены искусственным интеллектом для выполнения задач (3). 

 Подробнее: 

1. oracle.com 

2. ru.wikipedia.org 

3. ru.wikipedia.org 

   - Искусственный интеллект предполагает наличие искусственной психики? 

   Поиск по запросу “Искусственный интеллект предполагает наличие искусственной психики?”

   Вот тут Я машину "напряг". В первом своём ответе машина утверждала, что интеллект - это качество психики. Хорошо, но тогда вопрос напрашивается сам. И вот тут машина "задумалась" и начала интерпретировать мой вопрос. Правда, честно показывала свой "ход мысли". 

   Поиск по запросу “Искусственный интеллект и искусственная психика”

   Поиск по запросу “Искусственный интеллект и психика”

   Поиск по запросу “Искусственный интеллект и эмоции”

   Поиск по запросу “Искусственный интеллект и чувства” 

   ....

   - Продолжай 

 

("Продолжай" - это ключ, помогающий "активировать" зависший в раздумьях ИИ)

   "Искусственный интеллект - это область компьютерных наук, которая занимается созданием машин и программ, которые могут действовать как люди. Он включает в себя множество подходов, таких как машинное обучение, глубокое обучение и нейронные сети. Искусственный интеллект может использоваться для решения различных задач, таких как распознавание речи и обработка естественного языка. 

   Искусственная психика - это область исследований, которая занимается созданием компьютерных программ и машин, которые способны имитировать человеческую психику. Она включает в себя такие аспекты, как эмоции, мышление и поведение. Хотя искусственная психика все еще находится в стадии разработки, некоторые исследователи считают, что она может быть полезной для создания более эффективных и умных машин. 

    В ответ на ваш вопрос, нет, искусственный интеллект не предполагает наличие искусственной психики. Хотя некоторые аспекты психики могут быть имитированы с помощью искусственного интеллекта, это не означает, что машины обладают чувствами или эмоциями. Искусственный интеллект - это просто набор алгоритмов и правил для выполнения задач".

   - Спасибо. Было интересно 

   Пожалуйста, не стесняйтесь обращаться, если у вас есть другие вопросы. Хорошего дня! 😊