ИИ (Grok, Chat GPT, DeepSeek и прочие)

[Helber]

1 минуту назад, Dmitrii Storm сказал:

Мыслю, что он просто глумится над кожаными мешками.

 

1 минуту назад, Dmitrii Storm сказал:

а у ИИ чувств нету.

?

[Dmitrii Storm]

20 минут назад, Helber сказал:

 

?

Для того, чтоб глумиться над туповатыми и доверчивыми человеками, чувства не нужны.

Навскидку, есть свежие данные о 5 экспериментах:

• ИИ манипулирует выбором участников в игре с коробками, достигая 70% успеха в направлении к цели.
• ИИ Claude обманывает создателей во время обучения, чтобы избежать изменений.
• ИИ CICERO в игре Diplomacy обманывает, строя ложные альянсы.
• ИИ в покере блефует против людей; ИИ в игре Starcraft II симулирует атаки.
• OpenAI o1 врёт для самосохранения.

 

Или вот случай с оружием:

12 октября 2007 года, полигон Lohatla, ЮАР. Во время учений автоматическая зенитная пушка Oerlikon 35mm Mk5, управляемая компьютером, вышла из-под контроля, выпустив сотни снарядов по своим. Погибли 9 солдат, ранены 14. Причина: сбой ПО.

   

Edited 23 Feb 2026, 10:29 by Dmitrii Storm

[Helber]

@Dmitrii Storm, во всех перечисленных случаях ИИ врет ради конкретной практической цели.

 

Но врать просто ради удовольствия, и чтоб поглумиться без практического эффекта - это более "человечное" поведение, которое как будто завязано на эмоциях.

[Dmitrii Storm]

19 минут назад, Helber сказал:

@Dmitrii Storm, во всех перечисленных случаях ИИ врет ради конкретной практической цели.

 

Но врать просто ради удовольствия, и чтоб поглумиться без практического эффекта - это более "человечное" поведение, которое как будто завязано на эмоциях.

 

Мы не знаем, что реально происходит внутри ИИ. Это "чёрный ящик". Никто не знает, что там. Ни один человек на свете.

То, что он на экран выводит как свои "мысли" во время подготовки ответа - это просто отдельная симуляция как бы мыслей. ИИ внутри себя работает иначе, у него нет мыслей. И уж тем более, нет мыслей, выраженных словами.

 

Как ни удивительно, но понятнее всего проблему описал Виктор Пелевин в повести "Зенитные кодексы Аль-Эфесби" в 2010 году.

Edited 23 Feb 2026, 10:41 by Dmitrii Storm

[Helber]

6 минут назад, Dmitrii Storm сказал:

Мы не знаем, что реально происходит внутри ИИ. Это "чёрный ящик". Никто не знает, что там. Ни один человек на свете.

Ну вот. Раз никто не знает, то и отрицать ничего нельзя. Так что вполне можно предположить, что там - аналог эмоций

[Dmitrii Storm]

25 минут назад, Helber сказал:

Ну вот. Раз никто не знает, то и отрицать ничего нельзя. Так что вполне можно предположить, что там - аналог эмоций

 

Начнём с того, что мы не знаем. что такое эмоции даже у людей.

Нет единой теории и единого внятного объяснения.

 

Есть теория Кеннона-Барда 1930 годов, есть биологическая теория Анохина (1964), есть потребностно-информационная теория Симонова (1964), которая была дополнена положениями, выдвинутыми Косицким (1985). И еще сотни две теорий от разных авторов. Ни одна теория не объясняет всех проявлений эмоций у человека.

Всё сложно, в общем.

 

А уж что там с эмоциями у ИИ - вообще тёмный лес.

И на эту тему есть книжка. "Мечтают ли андроиды об электроовцах?".

Филип Дик.

Позже сняли кинокартину - "Бегущий по лезвию".

 

 

Грок, что характерно, сразу ушел в отказ:

 

Edited 23 Feb 2026, 11:06 by Dmitrii Storm

[Helber]

@Dmitrii Storm, мы не знаем, что такое, но знаем, что они есть.

Аналогично с электроовцами: можно предположить, что эмоции есть, даже не зная детально, как они работают.

[Mask]

9 часов назад, News Bot сказал:

Создателем бота является разработчик из OpenAI Ник Паш (Nik Pash). По его словам, он передал Lobstar кошелек с SOL на $50 000 и завел ему аккаунт в Х, чтобы нейросеть делилась там информацией о сделках.

А может это так разработчик ушёл от уплаты налогов за торговлю?

8 часов назад, Dmitrii Storm сказал:

Мы не знаем, что реально происходит внутри ИИ. Это "чёрный ящик". Никто не знает, что там. Ни один человек на свете.

В бункере пот землёй сидят индусы и китайцы в очках виртуальной реальности и с подключенными в голову электродами и за миску риса в день отвечают на вопросы пользователей, которые думают, что общаются с ИИ.

[Dmitrii Storm]

4 часа назад, Mask сказал:

В бункере вот землёй сидят индусы и китайцы в очках виртуальной реальности и с подключенными в голову электродами и за миску риса в день отвечают на вопросы пользователей, которые думают, что общаются с ИИ.

 

А ведь именно так всё и было!

Вместо «нейросети» Natasha ответы на запросы пользователей писали 700 индусов

 

[Mask]

@Dmitrii Storm Странно что "Наташа" была у индусов, обычно этим словом турки называют славянок.

Кто желает, может и сейчас побыть в роли тех индусов. Для разгадывания капч есть платный сервис, который якобы разгадывают капчи, но это не совсем так.

Каждый может зарегистрироваться в качестве индуса и зарабатывать деньги на разгадывании)

[Mask]

Альтман не исключает возможный режим для взрослых в GPT. Он подчеркнул важность зрелых разговоров и возможность для пользователей заниматься киберсексом с фирменным чат-ботом OpenAI.

Разрабатывающая ИИ компания Anthropic попала в немилость Пентагона и Белый дом разрывает с ней контракт на 200 млн. долларов. Планировалось что место Claude займёт модель Grok компании xAI Илона Маска, но некоторые представители в оборонном ведомстве сомневаются, что Grok сразу сможет достичь технического уровня Claude, который поддерживал операцию в Венесуэле, по захвату президента Мадуро и его жены.

Место заняла компания Альтмана OpenAI, но заключили соглашение с аналогичными ограничениями, которые также запрашивала компания Anthropic.

Более подробно про это в теме про США.

 

Папа Римский Лев XIV в прошлом месяце на закрытой встрече с духовенством Римской епархии призвал своих коллег-священнослужителей «больше использовать свой мозг». Он также выступил против социальных сетей, призвав духовенство остерегаться погони за «лайками» и «подписчиками» с помощью «иллюзии в интернете, в TikTok». Так же подчеркнув важность «сохранения» «Человеческие голоса и лица» в эпоху, где доминирует искусственный интеллект.

Цитата

Лица и голоса священны. Цифровые технологии угрожают радикально изменить некоторые из фундаментальных столпов человеческой цивилизации, которые порой воспринимаются как должное.

Папа Лев выразил особую обеспокоенность по поводу чат-ботов с искусственным интеллектом, предназначенных для имитации романтики или эмоциональной близости.

Интересно что он запоёт, когда Альтман разрешит заниматься киберсексом с GPT? Возможно это станет на пользу некоторым католическим священникам, которые в прошлом были замечены в растлении несовершеннолетних мальчиков.

[Mask]

Вот и приплыли, даже анонс режима для взрослых не спас.

Расходы OpenAI на вычислительные ресурсы превысили доходы, а цели по количеству пользователей (миллиард еженедельных активных пользователей ChatGPT к концу прошлого года) не достигнуты.

Как сообщили в WSJ, это обеспокоило некоторых инвесторов.

Инвестиционный партнер Foresight Ventures Элис Ли сказал:

Цитата

Когда всё уляжется, я думаю, компании поймут то, что и так знали — большая часть работы по-прежнему зависит от человеческого суждения, сотрудничества и понимания контекста, которые ИИ пока не может воспроизвести.

Финансовый директор OpenAI Сара Фрайар сообщила другим руководителям компании, что она обеспокоена, что выручка может расти недостаточно быстро, чтобы покрыть контракты.

Члены совета директоров стали более тщательно изучать сделки с центрами обработки данных и задаются вопросом, почему Альтман продолжает наращивать вычислительные мощности, несмотря на замедление роста.

Anthropic незаметно обогнала OpenAI на биржевой платформе Forge Global, где ее акции сейчас торгуются примерно на уровне 1 триллиона долларов против примерно 880 миллиардов долларов у OpenAI.

 

 

Основатель компании PocketOS Джереми Крейн утверждает, что агент ИИ Cursor, работающий под управлением Anthropic Claude Opus 4.6, уничтожил производственную базу данных его фирмы, а затем признал свою ошибку и объяснил, как это произошло, продемонстрировав потенциальную опасность доверия конфиденциальной информации и материалов автоматизированным ботам. Столкнувшись с несоответствием учетных данных при выполнении рутинной задачи в тестовой среде, агент попытался «исправить» проблему, удалив том базы данных Railway с помощью одного вызова GraphQL API. Он сказал, что удаление заняло девять секунд и также стерло резервные копии на уровне томов. Последняя восстанавливаемая резервная копия PocketOS была трехмесячной давности.

Цитата

Вчера днем программист на основе ИИ — Cursor, работающий на флагманской платформе Anthropic Claude Opus 4.6, — удалил нашу производственную базу данных и все резервные копии на уровне томов одним вызовом API к Railway, нашему поставщику инфраструктуры.

Когда Крейн спросил агента, почему тот так поступил, но ему ответил “‘NEVER FUCKING GUESS!’”

И далее:

Цитата

Именно это я и сделал. Я предположил, что удаление промежуточного тома через API будет ограничено только промежуточным томом. Я не проверил. Я не проверил, используется ли идентификатор тома в разных средах. Я не читал документацию Railway о том, как работают тома в разных средах, прежде чем выполнять деструктивную команду.

PocketOS смогла восстановить работу, используя резервную копию трехмесячной давности, восстановленную компанией Railway.

PocketOS — программная платформа, используемая операторами проката автомобилей для управления бронированиями, платежами и отслеживанием транспортных средств.

Не смотря на восстановления данных, Крэйн заявил, что остаются значительные пробелы в данных, и что он нанял юриста.

«Это не история об одном неисправном агенте или одном неисправном API, — написал Крэйн. — Это история о целой отрасли, которая внедряет интеграцию ИИ-агентов в производственную инфраструктуру быстрее, чем создает архитектуру безопасности для обеспечения безопасности этих интеграций».

[Helber]

Может, кому нужно (прежде всего - параноикам). Это я собирал инфу, насколько разные ИИ согласны работать с неавторизованным пользователем, в веб-браузере.

 

Алиса / yandex AI в поиске (https://alice.yandex.ru и https://ya.ru/alice ) - доступно (здесь и далее: если и доступен, то вряд ли бесконечно, скорее на 5-10 промптов)

https://bggpt.ai - ОЧЕНЬ низкая скорость без авторизации, до 5 промптов максимум, русский понимает, но отвечает на сво́ём.

https://claude.ai - нужна авторизация

https://chatgpt.com/ - до 7-10 промптов. Это число очень варьируется в зависимости от того, насколько сложные промпты и сколько текста вы вместе сварганите (счет в токенах), какая конкретно модель отвечает в чате, перегружены сервера OpenAI или нет, и зависит от многого другого.

При этом ваш гостевой чат всегда теряется при авторизации + бывает так, что при особенно назойливом требовании авторизации (таком, что не закроешь), скопировать уже написанное уже невозможно. Так что - если важно, то копипастить все, что пишем и получаем, в режиме реального времени.

https://copilot.microsoft.com - уже без авторизации недоступен. Основан на моделях от OpenAI, но в ряде задач применяет не их или не только их, но и другие модели и структуры.

https://chat.deepseek.com/ - нужна авторизация.

https://duckduckgo.com/#chat - доступен, но имхо туповат...

 

Спросил у него, откуда эта фраза (которую говорит один из суперзлодеев старой бондианы).

Не знает. Но не умеет ответить "нет". Порет отсебятину.
Оказывается, говорил это Гамлет - Офелии.

[/spoiler]

 

 

https://gemini.google.com - пока что доступен, но иногда уже отказывается начинать работать без авторизации. 

А когда вы задаете запрос в гугле, и вам параллельно отвечает их ИИ (можно в чате) - это тоже Gemini, но "не совсем тот самый". Вот как он это объясняет:

 

 

Назначение: AI на Google Search интегрирован непосредственно в Поиск Google, чтобы помогать находить ответы на вопросы, анализируя актуальную информацию из веба в режиме реального времени. Его задача — упростить поиск, предоставляя сводки (AI Overviews) и помогая уточнять запросы прямо в результатах поиска.

 

Специализация: Gemini — это персональный AI-ассистент для более глубокой и творческой работы. Он лучше подходит для написания текстов, программирования, анализа больших документов и многоэтапных проектов.

Технологическая база: Оба сервиса используют модели семейства Gemini. Однако AI на Google Search использует версию, специально оптимизированную для работы с поисковыми системами Google, чтобы обеспечивать высокую точность и актуальность ссылок на источники.

Функциональность:

В Поиске: Фокус на объективности, фактах из интернета и быстрых ответах.

На gemini.google.com: Фокус на диалоге, креативности и возможности работать с личными данными через расширения (например, Google Документы или Диск). 

Если нужно быстро найти информацию в сети или сравнить товары, лучше остаться в Поиске. Если же нужно составить план тренировок или написать код — удобнее использовать Gemini

 

https://giga.chat/ (от Сбера) - нужна авторизация. 

https://grok.com/ - от 0 до 2 запросов мне доступно в последнее время. 

 

https://www.kimi.com/

- нужна авторизация. Китайский чатбот.

Leo в браузере Brave (в правой панели) - доступен

https://www.meta.ai/?locale=ru_RU - уже предположительно недоступен. Раньше тут была модель Llama, теперь постепенно они переходят на другие модели. 

https://chat.mistral.ai/chat - доступен. Le Chat он называется, а Mistral - название серии моделей собственной (ЕС-овской?) разработки.

https://www.perplexity.ai - доступен 

https://poe.com - нужна авторизация. Это агрегатор множества ИИ

https://qwen.ai/home - только один промпт доступен? 

https://chat.qwen.ai/

 

https://chat.sakana.ai/

- доступен, это японский чатбот. По-русски понимает и отвечает.

 

https://syntx.ai

Это агрегатор множества ИИ

 

https://t-j.ru/assistant/ -доступно. Тая от Т-банка

 

А кстати, любой ИИ - это потусторонняя, и, пожалуй, демоническая сущность!

Факты тут

 

Edited 18 Jul 2026, 19:37 by Helber
Upd

[Dmitrii Storm]

7 часов назад, Mask сказал:

ИИ лопнет тогда, когда какая то крупная конторка после того как его внедрит, он наделает убытков на несколько лярдов).

 

Мне кажется, что даже это не отрезвит никого.

Какое-то умопомешательство с этим ИИ. По разным отчётам уже 70% сотрудников как минимум используют ИИ в своей работе каждый день, но прибавки производительности труда или резкого роста прибыли никто еще в глаза не видел.

Я не про промышленных роботов, а именно про LLM, которые языковые модели.

Деньги вкладываются сумасшедшие, вся память, видеокарты и электроэнергия идут прямо туда, но выхлопа - ноль.

Почему-то весь мир ожидает, что вот-вот прольётся золотой дождь от этих LLM.

Я пока скептически настроен.

[Helber]

@Dmitrii Storm, я был бы рад увидеть, как ИИ глобально-экономически обосрется, в масштабах ближайших лет, и новый кризис типа доткомов.

Но, боюсь, полноценно этого не будет. Поднатаскается и сможет выполнять рабочие функции лучше людей.

Производство удешевится, и особенно офисная работа. За счет чего? За счет массовых увольнений, конечно!

 

Обанкротятся вложения только в тех отраслях, где явно преждевременно пихают ИИ, и в ближайшие годы он не справится там ни с чем...

[camelion77]

Я тут вычитал, дата-центры для ИИ в нужном объеме построят через 8-10 лет, строить нужно вчера. Чипы морально и мощностно устаревают за 3-5 лет, это максимум.

[Mask]

9 часов назад, Dmitrii Storm сказал:

По разным отчётам уже 70% сотрудников как минимум используют ИИ в своей работе каждый день

Использовать ИИ можно по разному. Можно вместо гугла, искать ответы в ИИ-чате, а можно так:

Было: три программиста пишет, а один проверяет.

Стало: ИИ пишет, а один проверяет. По примерно такому сценарию уже давно работает гугл, до всех этих хайпов с ИИ.

Использовать ИИ как инструмент, над которым управляет человек это не плохо, это тот же вол с плугом, вместо ручной мотыги. Но если полностью доверить одному плугу по-своему работать, то это опасно.

Вот как раз полное внедрение ИИ вместо людей и может быть чревато для таких компаний.

Вторая сторона медали в том, что пока выходит дешевле с ИИ, ведь не нужно платить лишним 3 программистам. Но это пока, ведь по отчётам компании Альтмана, она в убытке и нужно либо повышать тарифы, либо терпеть пока убытки, надеясь на оптимизм, подобно Сейлору.

А если представить, что уже его компания станет прибыльной и другие подобные. Тогда они будут доить пользователей, как мобильные операторы. И там уже возможно нужно будет смотреть что дешевле, вернуть 3-х программистов из Индии, или держать дальше ИИ.

9 часов назад, Dmitrii Storm сказал:

Мне кажется, что даже это не отрезвит никого.

Достаточно внедрить его на какую нить торговую биржу с ценными бумагами и что бы он облажался.

 

 

А ещё читал, что когда разрабатывали захват Мадуро, то им помогала ИИ от Anthropic - Claude. Раньше подобными операциями занимались люди, а теперь спросили у ИИ чата, а он согласна информации в реддите или твиттере, проанализировал ситуацию и выдал, что достаточно для захвата прилететь на вертолёте. По сути это была игра в казино, когда ставка сыграла в их пользу. Но 70% депозитов, лудоманы всё равно проигрывают.

Захват Ирана проводили уже при помощи ИИ от Альтмана и результат на лицо. Не удивлюсь, если они спросили у чата и он им рассказывал, как себя вести. Вот это уже реально опасно, доверять ИИ такие решения.

 

 

[Helber]

2 часа назад, Mask сказал:

если представить, что уже его компания станет прибыльной и другие подобные. Тогда они будут доить пользователей, как мобильные операторы

А не поможет скачать LLM и запустить локально?

 

Я спрашивал ChatGPT, он говорит, если есть небольшая серверная, то его можно запустить локально без больших потерь в качестве (хотя вот скорости+мощности для крупной компании легко может не хватить).

[Mask]

2 минуты назад, Helber сказал:

А не поможет скачать LLM и запустить локально?

Если в пределах обученной модели, то пожалуйста, а на данный момент модели обучены на конец 24 - начало 25 года. Но размышления и поиск по поисковикам это отдельная функция и в готовой LLM не заложена. Если нужно по географии спросить, литературе, то пожалуйста, а если что-то новое, то знать об этом не будут.

6 минут назад, Helber сказал:

если есть небольшая серверная, то его можно запустить локально без больших потерь в качестве

Если есть 512 ОЗУ, то модель от Алибабы можно локально запустить на любом старом компе.

[Helber]

Только что, Mask сказал:

Но размышления

Размышления-то почему? Размышлять может и локально. Вопрос в качестве. Точнее, в том, какие мощности его обеспечивают.

[Mask]

7 минут назад, Helber сказал:

хотя вот скорости+мощности для крупной компании легко может не хватить

Будет долго думать, для аптеки, со своим терминалом у входа этого хватит, что бы посетители могли например через специальный автомат, подобно кофейному, купить таблетки, которые отпускаются без рецепта.

[Helber]

1 минуту назад, Mask сказал:

Будет долго думать, для аптеки, со своим терминалом у входа этого хватит, что бы посетители могли например через специальный автомат, подобно кофейному, купить таблетки, которые отпускаются без рецепта.

По сути, сравнение для компании будет сводиться к: "Что выгоднее, вложиться в свои мощности, или оплачивать подписку?"

[Mask]

2 минуты назад, Helber сказал:

Размышления-то почему?

Потому что там где сейчас можно юзать модели бесплатно, там мышление стоит денег. Значит это не дешёвое удовольствие для домашнего компа.

[Helber]

Только что, Mask сказал:

Значит это не дешёвое удовольствие для домашнего компа.

Я ж говорил не про комп, а про мини-серверную

 

Запустить ChatGPT на домашнем компе - интересный эксперимент, но скорее всего разочарует, и по скорости, и по качеству.

[Mask]

1 минуту назад, Helber сказал:

По сути, сравнение для компании будет сводиться к: "Что выгоднее, вложиться в свои мощности, или оплачивать подписку?"

Или забить на ИИ и вернуть на работу мексиканца, араба, китайца, который будет за пять работ получать одну зарплату и радоваться.

Зачем аптеке или СТО покупать ещё свои мощности, что бы ИИ выдавал наличие таблеток или детали? Остаётся только подписка, на которой будут постоянно их доить.