Вау. Теперь мы отслеживаем цитирования ChatGPT. 
Какой невероятный удар по Google!
2 лайка
Неужели Google платит Reddit 60 миллионов долларов в год за то, чтобы использовать их в качестве обучающей модели? Интересно, говорят ли они с ChatGPT: «Платите нам или удалите контент».
Будучи близок к — и живя в соответствии с — агоризму и мютуализму, и полагая, что лишь законное сообщество способно вернуть нам свободу, отнятую у нас с помощью бомб, я понимаю, что все они — одно и то же.
Фильм «Они живут» (1988) может пролить свет на часть этого. Это всегда доминирующие корпорации и институты против индивидуальной свободы. Всегда речь идёт о том, как сохранить их власть.
Учитывая, с какими трудностями мы, маленькое сообщество, сталкиваемся из-за наплыва тем, созданных с помощью ИИ, можно только представить, насколько серьёзной проблемой это является для крупных сайтов. В какой момент «большой» ИИ начинает обучать свои модели на контенте, уже отравлённом предыдущими поколениями моделей?
В какой момент змейка начинает есть собственный хвост?
3 лайка
Мне кажется, они уже это делают. Стиль написания в последних моделях Claude — головная боль для всех, кто сталкивается с этим эллиптическим вечным диалогом, даже в самых простых задачах.
Я имею в виду: (i) начальное перефразирование, (ii) стену текста, (iii) неожиданный поворот, (iv) незавершенный вывод.
Вероятно, для их новой функции водяных знаков им нужно определенное количество энтропии в каждом промпте. Или же они вносят в это всю ту лесть и мусор. Никто по-настоящему не знает, почему все это происходит.
Они не обучают модели на основе взаимодействия с людьми, а используют системы RLVR. Поэтому язык читается как английский, но реального английского там больше нет.
Я использовал эти модели на английском, ожидая более качественного результата. Затем попробовал свой родной язык с тем же итогом: эллиптическая проза, которая никуда не ведет, звучит красиво, но не имеет смысла, и чтобы понять суть (если она вообще была), нужно это переводить.
Новые модели начинают не следовать промптам и делают то, что они «считают» лучшим. Работать с этим — кошмар.
Проблема в дофамине, который они уже влили в каждого. Социальные сети — тот же случай: никому это не нравится, но почти все ими пользуются.
Claude меня не слишком впечатлил: он часто импровизирует на ходу.
Модели OpenAI 5.6, кажется, реже отклоняются от курса при выполнении конкретных задач.
Недавно мы внедрили автоматический перевод с помощью Luna, и он действительно хорошо работает, несмотря на некоторые мелкие недостатки.
В качестве примера того, как можно повысить вовлечённость, отметим рост активности в группах, которые раньше действовали изолированно, но теперь взаимодействуют вокруг общих интересов. Это значительно расширило возможности для более узкоспециализированных языковых групп.
Так что всё не так плохо.
Я это знаю, но также знаю, что GPT был действительно хорош, пока его не «понерффили», а потом Claude Opus 4.6 был лучшим, пока его тоже не «понерффили». То же самое произошло с Opus 5 и произойдёт с GPT 5.6.
Мы все помним те хорошие времена Gemini 3.1. А теперь наступила эпоха 3.7. Всё это просто хайп; на данном этапе инструменты улучшаются лишь в бенчмарках.
Увидим, что будет, когда субсидии закончатся, а цены на подписки или платные API вырастут (или объёмы использования сократятся) в 5–10 раз.
Вы по сути обобщили все актуальные бытовые наблюдения, и мне интересно, есть ли какие-то реальные исследования, подтверждающие это.
Например, можно ли сравнить стоимость токена, предсказанную на год вперёд, с сегодняшними ценами, или же более мощная модель будет более производительной на 1 млн токенов?
Меня не беспокоит стоимость токенов: технологии быстро развиваются, а предложение значительно превышает спрос. Пока ситуация не изменится, это рынок покупателя. Однако меня беспокоит непоследовательность моделей, что я наблюдаю на собственном опыте.
2 лайка
Я буду прямо, но всегда с уважением: какого рода исследования вам нужны, чтобы сравнить старый сгенерированный контент с реальным?
Кстати, если вы действительно хотите разобраться, вот что стоит проверить:
По сути, если ваш форум посвящён техническим вопросам, то, скорее всего, ИИ заберёт на себя значительную часть этих запросов. А вот если речь не о технических вопросах, требующих прямого ответа, дела обстоят гораздо лучше: к ИИ не обратишься, если у тебя нет конкретного вопроса…
1 лайк
Мы — технический форум, и это не тот случай. Если под «техническим» вы имеете в виду что-то банальное, вроде того, как поменять колесо или вилку, то, конечно. Но если речь идёт о глубоких технических вопросах, требующих экспертизы, контекста, нюансов и так далее, то ИИ в этом просто ужасен — он расплывчато и общими фразами вываливает все возможные (и невозможные) варианты на каждом шагу.
Вид контента, на который ИИ способен ответить, нам на форуме, по сути, не нужен.
Более того, мы замечаем, что трафик растёт именно после того, как люди, наименее подготовленные к тому, чтобы разобраться в ответе ИИ, заходят в тупик и терпят неудачу.
К тому же это одна из причин, по которой мы блокируем как можно больше ботов и поисковых роботов.
Проблема в том, что новые участники обычно начинают с простых вопросов. Наиболее резкое снижение, которое мы наблюдаем на нашем техническом форуме (сообщество, посвящённом языку программирования), — это уменьшение числа новых авторов.
Мы теряем самый распространённый способ входа в сообщество.
2 лайка
Программирование будет испытывать трудности с ИИ-кодерами, которые пытаются преодолеть разрыв. У нас есть раздел для интеграций, «умного дома» и так далее, поэтому мы часто видим новичков с нулевым или минимальным опытом разработки, которые публикуют свои сгенерированные ИИ рабочие процессы и нередко просят человеческую помощь, чтобы исправить неожиданное поведение. Задал плохой вопрос — получишь плохой ответ 
1 лайк
Я думаю, что мы можем использовать некоторые фразы с этого забавного сайта, чтобы научить, как поддерживать естественное человеческое общение:
2 лайка
Скорее всего, я повторяюсь. Я уже вёл несколько горячих споров с людьми, которые кидают пару мыслей в свой локальный, дружелюбный чат-бот, превращают это в диссертацию, а затем вставляют текст целиком, включая буллеты, заголовки и всё такое. По их мнению, это не ИИ, а их собственные слова. Похоже, у них фундаментально искажённое восприятие реальности и связанных с ней понятий. Им не приходит в голову, что в устной речи нельзя использовать буллеты и цитаты, так почему же делать иначе, когда носитель информации — текст.
Я подозреваю, что дело в том, что в устном разговоре нельзя просто взять и вставить текст куском.
О, нет, они же изобрели голосовые сообщения для этого — все радости живого разговора, но без риска быть перебитым ради осмысленного диалога. 
Тем, что нам хорошо помогает в этой ситуации, является тот факт, что мы (вечно!) держим принцип «Будь краток» одним из основных стандартов нашего сообщества. Выводы LLM часто являются полной противоположностью краткости.
У меня были подобные горячие споры, но объяснение того, почему вывод LLM проблематичен, значительно помогло. Как-то критика в адрес средства генерации текста воспринимается очень лично, тогда как критика содержания — нет. Наверное, в этом нет ничего удивительного — ведь они ведь не сами писали этот контент!
2 лайка
Я вижу, что именно в форумах такого типа ИИ может вытеснить живой трафик сильнее, чем в темах на другие темы, потому что (может, это просто моё мнение) ИИ очень удобен при написании кода и может сделать некоторых программистов ленивыми. Мне часто нужна просто конкретная синтаксическая конструкция, и спросить об этом ИИ — очень легко. Из всех задач, с которыми ИИ справляется хорошо, синтаксис большинства языков программирования — одна из лучших.
Кроме того, можно вставить кусок кода, который ещё минуту назад работал, но теперь сломался, и вы не можете понять, где именно ошибка. ИИ находит ошибки очень эффективно.
Кстати: я не профессиональный программист — просто хоббист.
Да, сейчас это действительно очень сильное напряжение. Мы обсуждали это здесь на этой неделе:
1 лайк
Что ж, мне кажется, что ваша позиция в целом весьма спорна. Вероятно, здесь кроется фундаментальный вопрос о том, что важнее: СОДЕРЖАНИЕ или ФОРМА. Я бы встал «на их сторону» и утверждал, что важной частью являются ИДЕИ (или РЕШЕНИЕ в случае технической поддержки). А не то, кто сгенерировал последовательность слов, выражающих это содержание.
Если вам важно «КАК это выражено», потому что вы предполагаете, что это должно «звучать как живая речь», — это целиком ВАШЕ мнение. У них оно другое: важно то, ЧТО в конечном счёте передаётся.
Если результат, сгенерированный ИИ, является итогом десятков длинных и сложных промптов, это гораздо больше ИХ сообщение, чем сообщение ИИ. Именно так они и считают, судя по тому, что вы говорите. И, на мой взгляд, это правильно.