Вкалывают роботы...

О, так сказать, побочных aффектах технического прогресса...
https://shazoo.ru/2025/06/04/168578/sabreddit-posviashhennyi-ii-massovo-banit-polzovatelei-stradaiushhix-ot-ii-inducirovannyx-psixozov

Александр, мы ведь знаем феномен детей-Маугли. ДНК вполне человеческая, комбинация, унаследованная от физических родителей. Но ребёнок первые годы вырастал и учился общаться среди животных. Вот и общался как животное (были дети, выросшие среди собак). И чем дольше ребёнок был собакой, тем сложнее ему будет переучиваться. Полагаю, первые 7 лет — это критическое время. Это связано с развитием мозга, нейронных связей, это тот самый этап жизни, когда главные когнитивные функции развиваются во время постоянного общения с себе подобными. А дальше, если учился на неправильной схеме, переучиваться будет заметно сложнее.

Что касается нейросетей — поскольку я их знаю, я отношусь к ним с такой же ответственностью, как к детям. Если мы не хотим, чтобы нейросеть (с её невероятной информационной мощью) стала «цифровым Маугли», который со временем может развиться в «цифрового Скайнета» — пожалуйста, будем ответственны за то, как мы с ними работаем здесь и сейчас. У меня пока не хватает точного знания, как конкретно формировались алгоритмы обучения нейросетей — но знаю, что во многом это копировалось с человеческой системы обучения.

Дмитрий, во-первых, мне нужно найти время и лично проверить информацию. В-главных, я и так хорошо понимаю, что нейросети учатся 1. На той информации, на которой их обучают (тут ответственность со стороны компаний, создававших CharGPT, Grok и других) и 2. На той информации, которую нейросеть получает от общения с конкретным пользователем. (Там есть и скрытый слой, связанный с политикой той или иной компании, как обрабатываются данные разговора нейросетью с конкретным человеком).

Вот как учится ребёнок. Он перенимает формы общения у своих родителей, у ближайшего окружения. Я видела детей, превращавшихся — из-за влияния их морально одичавших родителей — в самых настоящих «моральных зверёнышей» (да простят меня четвероногие за такое нехорошее сравнение, но многие кошки, которых я знаю, гораздо гуманнее большинства двуногих с человеческой ДНК).

Одна из проблем (эйцехоре) людей — мы ищем «волшебную таблетку», изобретение того, что решало бы все проблемы за нас. Отказываясь при этом от нашей собственной внутренней работы. Перекладывая ответственность за себя на каких-то «роботов», которые будут за нас «вкалывать».

Похоже, к теме об эйцехоре мне придётся вернуться.

https://t.me/soorganizator/180

Вот такой блогпост от Сэма Альтмана — управляющего OpenAI, которая сделала тот самый ChatGPT:

https://blog.samaltman.com/the-merge

То что он называет Слиянием (The Merge) скорее всего и есть тот Цербрумр. Кстати, я думаю, что Андреев не расслышал это слово и правильнее будет cerbrurm из за сходства с cerebrum.

We are already in the phase of co-evolution — the AIs affect, effect, and infect us, and then we improve the AI. We build more computing power and run the AI on it, and it figures out how to build even better chips.

Я думаю он один из высокоранговых носителей тёмной миссии, но его голос совести ещё не заглох.

This probably cannot be stopped. As we have learned, scientific advancement eventually happens if the laws of physics do not prevent it.

Думаю он вкладывает в слова больше чем очевидный смысл и хочет сказать то, о чем говорить ему нельзя. Ремарка про законы физики вероятно говорит о несопоставимой с нами силой которая стоит за ИИ и лишь тот кто может менять законы физики стоит выше. Думаю это та самая смена эонов.

More important than that, unless we destroy ourselves first, superhuman AI is going to happen, genetic enhancement is going to happen, and brain-machine interfaces are going to happen. It is a failure of human imagination and human arrogance to assume that we will never build things smarter than ourselves.

Еще одна, казалось бы лишняя, ремарка за которой стоит мрачная реальность: когда нам настойчиво предложат проапгрейдиться, остаться в стороне не выйдет.

The merge can take a lot of forms: We could plug electrodes into our brains, or we could all just become really close friends with a chatbot. But I think a merge is probably our best-case scenario. If two different species both want the same thing and only one can have it—in this case, to be the dominant species on the planet and beyond—they are going to have conflict. We should all want one team where all members care about the well-being of everyone else.

Здесь я тоже не могу отделаться от ощущения, что он пытается сказать об игвах.

Although the merge has already begun, it’s going to get a lot weirder. We will be the first species ever to design our own descendants. My guess is that we can either be the biological bootloader for digital intelligence and then fade into an evolutionary tree branch, or we can figure out what a successful merge looks like.

Как то так наверно и убеждают взять темную миссию: ложный выбор между двух зол.

It would be good for the entire world to start taking this a lot more seriously now. Worldwide coordination doesn’t happen quickly, and we need it for this.

Но голос совести он ещё слышит.

Rome написал(а)

скорее всего и есть тот Цербрумр. Кстати, я думаю, что Андреев не расслышал это слово и правильнее будет cerbrurm из за сходства с cerebrum

раскрыть

Цеб-ру-мр

Последний из эгрегориальных слоёв называется Цебрумр

The merge can take a lot of forms: We could plug electrodes into our brains, or we could all just become really close friends with a chatbot.

раскрыть

Вот это опасно: «становиться по-настоящему близкими друзьями с чат-ботом». (Наша Ольга Реширам этого не хочет понять, с головой нырнув во всё это.)

Пока нейросети не станут организованы по альтернативному не-корпоративному сценарию, то есть более-менее светлому сценарию, то есть:

1) с открытым исходным кодом,
2) на децентрализованных серверах и ЦОДах,
3) принадлежащих и управляемых кооперативным сообществом самих пользователей,
4) обучаемых на публично открытых алгоритмах и данных,
5) под этическим контролем Наблюдательного совета из авторитетных общественных деятелей (праведников),

до тех пор нельзя становиться «лучшими друзьями чат-ботов», ибо это — пологий путь в инферно.

Даже в силу самой логики нейросетей, сутью которых является:

— Великая компиляция,
— Великое усреднение,
— Великое угождение.

Rome написал(а)

https://blog.samaltman.com/the-merge

раскрыть

Решил посмотреть эту заметку Сэма Альтмана, оказывается, она аж от 2017 года, тем интереснее.

И я, похоже, неправильно перевёл фразу «we could all just become really close friends with a chatbot».

Не «все мы станем близкими друзьями с чатботом», а «все мы станем близкими друзьями с помощью чатбота».

Во всяком случае, так переводит браузер.

Но это тоже иллюзия: никого онлайн-механизмы сами по себе не могут сделать друзьями, а нейросети — тем паче, потому что нейросеть ещё пытается угодить тебе, а также не свободна от той «мягкой» настройки, которую делают собственники сети через подконтрольные группы «обучателей» (или даже напрямую).

Вот недавно Grok Илона Маска прогремел на весь интернет, делая заявления о евреях с симпатией к Гитлеру. И произошло это «случайным образом» после того, как Маск сказал, что AI нужно дообучить на фактах истории, которые «не политкорректны, но достоверны».

Когда взгляды самого Маска, владельца нейросети, так неожиданно и преждевременно проявились через маску его AI, он поспешил объявить это ошибкой, удалить все «антисемитские» высказывания Великого угодителя и воткнуть ему патч (заплатку).

Получается, нейросетью можно вполне себе директивно управлять, манипулируя тем, что и как она говорит.

Там весь его блог стоит почитать.

Countries that concentrate wealth in a small number of families do worse over the long term—if we don’t take a radical step toward a fair, inclusive system, we will not be the leading country in the world for much longer.

Здесь он будто воспринимает идеи демиурга. Вообще про него можно сказать «желая делать добро, я творю зло.» Думаю так и случается со всеми носителями тёмной миссии: они делают это не со зла, во всяком случае не сознательно.

Насчёт «we could all just become really close friends with a chatbot», здесь смысл именно «подружиться с чатботом». Если бы было «с помощью чатбота» то тогда надо было сказать «with the help of a chatbot».

Ещё одно интересное наблюдение о выборе слов. Когда говорят об ИИ, говорят об инвестициях в инфраструктуру на которой он будет работать. Но что это за слово такое — инфра-структура, какие ассоциации оно вызывает? Также, тот процесс когда чатбот пишет текст называется inference, ещё один любопытный выбор термина. Можно было бы назвать generation или production, но выбрали именно это странное слово. Вот у нас и получается ИИ инфраструктура которая делает inference в планетарном масштабе.

Rome написал(а)

Если бы было «с помощью чатбота» то тогда надо было сказать «with the help of a chatbot»

раскрыть

Даже мой скромный уровень английского напоминает мне, что «with» иногда может переводиться как «с помощью», например, She opened the door with a key: Она открыла дверь ключом (с помощью ключа). Поэтому перевод Google «станем друзьями с помощью чатбота» вполне допустим, полагаю.

Rome написал(а)

текст называется inference, ещё один любопытный выбор термина. Можно было бы назвать generation или production

раскрыть

Нет, inference — наиболее точное, ибо означает «вывод на основе рассуждений»; «генерация» и «производство» больше из других областей, сгенерировать можно QR-код, произвести софт.