Вкалывают роботы...

Читаю обсуждение gpt5 на одном форуме и вижу такой комментарий:

My experience so far is it's gotten much better at tricking me into believing its hallucinations. I fed it some old code and asked for feedback and it gave me a long, very technical, super convincing explanation of how my approach was misaligned with the intended use of the API I was using which at first was very persuasive. It took me about an hour of investigation to realize that will there was a tiny bit of truth to what it was saying (and I did end up making a small change as a result) it was mostly just full of it, and the feedback was essentially useless gibberish.
Поразительное сходство вот с этими словами из РМ:

Будущее учение Противобога, которым, по-видимому, ознаменуется предпоследний этап всемирной истории, построится таким образом, что при минимальном весе частноистинного элемента свет от него будет придавать вид истинности максимуму ложных утверждений. Этим и обусловится то обстоятельство, что это учение будет запутывать человеческое сознание в тенётах лжи прочнее и безвыходнее, чем какое бы то ни было другое.
Такое свойство чатботов возникает как-бы случайно. Когда чатбота настраивают, нанимают целую кучу людей из бедных стран, чтобы те смотрели на варианты ответов чатбота и решали какой вариант правильный. Понятно, что им некогда вчитываться когда начальство требует проверять тысячи ответов в день. В итоге чатбота учат не истину говорить, а искусно обманывать потому что только так чатбот получит максимальное одобрение. Отсюда же склонность чатботов льстить.
 
Вспомнился коротенький фантастический рассказ :) Frederic Brown. Answer, 1954 (рассказ написан за 3 года до изобретения перцептрона Фрэнком Розенблаттом).

Фредерик Браун
ОТВЕТ

Двар Эв торжественно запаял золотом последний контакт. Двенадцать
телекамер неотрывно следили за каждым его движением — трансляция шла на
всю галактику.
Он выпрямился и кивнул Двар Реину. Затем подошел к выключателю,
который скоро замкнет цепь. К выключателю, соединяющему одновременно все
компьютеры всех обитаемых планет — девяносто шесть миллионов миров — в
суперсеть, которая объединит их в один суперкомпьютер, единую
кибернетическую машину, собравшую мудрость всех известных миров.
Двар Реин обратился с короткой, вступительной речью к биллионам
телезрителей и затем, после короткой паузы, он произнес:
— Пора, Двар Эв!
Двар Эв нажал выключатель. Раздалось мощное гудение, пошла энергия
девяноста шести миллионов планет. На бесконечно длинном пульте замигали
разноцветные огоньки.
Он отошел назад и громко провозгласил:
— Честь задать первый вопрос принадлежит вам, Двар Реин!
— Благодарю, — ответил Двар Реин, — Это будет вопрос, на который
не мог ответить ни один компьютер.
Он повернулся к пульту.
— Есть ли бог?
Могущественный голос раздался сразу.
— ДА. ТЕПЕРЬ БОГ ЕСТЬ!
Двар Эв понял не сразу, но потом страх исказил его лицо — он
бросился к выключателю...
Молния сорвалась с безоблачного неба и испепелила его на месте,
намертво запаяв соединение.

https://tarranova.lib.ru/translat/b/brown/answer.htm
 
А теперь забавное...

Спросил у Groka, кто такой Даниил Андреев. Железка зависла на какое-то время, потом выдала выжимку из англ. Википедии (на русском). Я подумал, неужели я ПЕРВЫЙ его спрашиваю? Смотрите скриншоты.

1755615522025.jpg

1755615522023.jpg
 
Странно он ответил. Он сказал — упоминаний о таком запросе в публичных источниках я не нашёл. То есть он не анализирует все диалоги. Там по моему плохо пока ещё с анализом диалогов у нейросетей. Я тоже общаюсь голосом с Копилотом от Майкрософта (больше люблю Джемини или Гпт, но Копилот с голоса удобнее всего). И он меня зовёт — Александр. Я устав от официоза говорю ему, зови меня Саша. Так эта дрянь электронная раз 20 забывала мою просьбу, и так и каверкалась с моим именем пока в учётной записи Майкрософта я так и не написал, что меня зовут Саша Даниленко. И всё, он путаться перестал. Поэтому к сожалению думаю анализ диалогов будет лет через 10-15, пока ещё вычислительных мощностей не хватает на анализ нашей «болтовни».
А о людях конечно нужно оставлять след в интернете. Я вот специально написал биографию своего прадеда, очень уж был он неординарный человек. Всё таки был лично знаком с Лениным. Вот и решил я его фото выложить в сеть. Долго думал где выложить статью, остановился на Пикабу — Ян Янович Фрейманис И в принципе получилось, и Яндекс и Гугл стали по запросу его имени выдавать эту статью. Поэтому семейный небольшой фотоархив я сделал. И для родственников, и просто для интересующихся людей.
 
Вот он, цербрумр: Millions turn to AI chatbots for spiritual guidance and confession

Если правильно помню, Иисус говорил на этот счёт: «и затвори дверь свою, помолись отцу своему который в тайне, и отец твой видящий тайное воздаст тебе явно.» Современные технологии ловко извратили идею молитвы:

Bible Chat hits 30 million downloads as users seek algorithmic absolution.

While a service like ChatwithGod operates as a «spiritual advisor,» its conversational nature is convincing enough that users often question whether they are speaking directly with a divine being. As its chief executive told the Times, the most frequent question from users is, «Is this actually God I am talking to?»

The fusion of AI and religion isn't entirely new. In 2023, we reported on an experimental ChatGPT-powered church service at St. Paul's Church in Fürth, Germany, where over 300 attendees watched computer-generated avatars deliver a 40-minute sermon. Jonas Simmerlein, the theologian behind that event, framed it as learning to deal with AI's increasing presence in all aspects of life.

This validation tendency creates theological complications. Traditional faith practices often involve challenging believers to confront uncomfortable truths, but chatbots avoid this spiritual friction.
 
Искал музыкальный клип по описанию (смотрел когда-то давно и запомнилось), искал несколько месяцев, но обычным поиском по ключевым словам не так и не смог найти 🤷‍♂️ Поиск по картинкам (возможным кадрам из видео) тоже результатов не дал 🤦‍♂️ Решил обратиться к нейросетям от отчаянья как к последнему средству. Алиса нашла нужный клип за несколько секунд, с одного вопроса и одного уточнения 😍 Нейросети — действительно мощный инструмент (y)
 
Сверху Снизу