В этом полно предположений. Возможно, стоит уточнить мой смысл, прежде чем реагировать на свои выводы.
1 лайк
Вы не одиноки. Мне тоже было бы приятно знать, использовались ли LLM в проекте или нет.
Помимо качества кода, существует достаточно этических проблем, связанных с LLM, и люди должны как минимум иметь возможность принимать обоснованные решения о том, какое программное обеспечение они устанавливают и какие проекты поддерживают. Существуют ли способы использования LLM для создания качественного программного обеспечения с должной тщательностью? Наверное, да. Существуют ли этические способы использования LLM с учётом текущего состояния отрасли и политики? Я думаю, что это гораздо сложнее.
Но прежде чем мы начнём здесь ещё одну долгую дискуссию, пожалуйста: речь идёт только о прозрачности, чтобы люди могли принимать собственные решения перед установкой чего-либо.
3 лайка
Тогда, пожалуйста, объясните, в чём я неправ?
Или: что вы имели в виду?
Это, безусловно, то, что для меня является главным. Мне просто важна прозрачность с самого начала, чтобы люди понимали, на что они соглашаются. Что касается этичности: как человек, который на протяжении месяцев отравлял данные для обучения LLM и делал всё возможное, чтобы эта технология не попадала ни в мою жизнь, ни в мои кодовые базы, я бы поступил предательски, если бы решил, что мне абсолютно нормально использовать её для создания собственных приложений или пользоваться приложениями, созданными на 100% с помощью LLM.
К счастью, провести должную проверку не так уж сложно, и моя текущая политика заключается в том, чтобы проверять участников проекта: если я вижу много коммитов, сделанных с помощью LLM, я просто закрываю вкладку и не пользуюсь этим проектом. Всё, что я здесь предлагаю, — это небольшая самозаявляемая метка, чтобы люди могли это знать, хотя в этой ветке есть и вполне обоснованные аргументы против. Я понимаю всё о том, как это экономит время и делает технологии доступными для большего числа людей, но я не считаю, что желание держаться от этого подальше — это что-то нелогичное. 
5 лайков
От этого я категорически отказываюсь, подожду и посмотрю, как уляжется пыль вокруг этой истории.
Очевидно, что некоторые люди заинтересованы в результате. Я высказал своё мнение, поделился некоторыми мыслями.
Мне не интересно навязывать своё мнение другим или чтобы другие навязывали мне своё.
Я выбываю из этого спора. Подожду, пока всё уляжется.
Просто хочу добавить, что если это вас беспокоит, то не стоит переживать из-за плагинов и тем, так как вы вообще не сможете использовать Discourse. В наши дни мы все активно используем ИИ для его разработки.
8 лайков
Я понимаю, и в идеальном мире я бы вообще не пользовался программным обеспечением, написанным с помощью LLM. К сожалению, мир не идеален, и я не всегда могу выбирать. Тем более важно сохранять этот выбор там, где он ещё возможен.
6 лайков
Просто чтобы всё было предельно ясно:
Я разрабатываю Discourse с помощью своих агентов. За последние около 10 месяцев я написал не более чем несколько строк кода. В этом году я реализовал значимые функции и исправил множество ошибок.
Если вы ищете проект, где запрещено использование агентного кодинга, боюсь, вам придётся искать в другом месте.
7 лайков
Я не просил о запрете, и OP тоже. Тема звучит так: «Требовать, чтобы темы и плагины, сгенерированные LLM, были помечены как таковые».
2 лайка
Почему темам это нужно, если ядро получает бесплатный пропуск?
1 лайк
Думаю, логика здесь следующая: мы не можем обойти тот факт, что ядро создано с помощью ИИ, но для остальных частей мы можем дать выбор?
Я понимаю, что предлагается и почему, но мне кажется, что эффективнее сделать то, что предлагалось ранее, — создать тег AI-free, который смогут использовать те, для кого это различие важно.
4 лайка
Тогда вопрос в том, что именно считается «свободным от ИИ»? Я действительно обращаюсь к Ask Discourse или Claude по конкретным вопросам при разработке, но я не пишу весь проект с помощью ИИ. В какой степени такое название охватывает использование ИИ: буквально 0%, чаты с ИИ для уточнений или полная генерация? Я думаю, что это различие должно быть чётко обозначено.
4 лайка
Лично для меня AI-free (без ИИ) означало бы:
«Я написал весь код вручную, и если меня спросят о любой случайной строке кода в этом проекте, я буду знать, что она делает — или хотя бы смогу разобраться, если мне нужно будет вспомнить, после быстрого прочтения».
Но да, определение должно быть чётким, и я уверен, что не у всех оно будет одинаковым.
С другой стороны, если речь идёт об этических или экологических проблемах, то даже обращение к ИИ с вопросами является частью проблемы…
Открывшаяся Pandora’s box (букв. «коробка Пандоры», то есть «бесконечная цепочка проблем»).
4 лайка
Простым началом могло бы стать правило «в этом проекте не используется код, сгенерированный LLM». Скорее всего, вы не сможете выполнить это на 100% точно, это в основном заявление о намерениях. Я часто вижу параллели с веганством: если довести это до крайности, в конечном итоге вы столкнётесь с противоречиями и невозможными выборами. Но в этом не суть. Суть в том, чтобы минимизировать ненужный вред.
Я вижу много вреда, связанного с использованием LLM: для долгосрочного качества кода, для окружающей среды, для нашего общества и для нашего собственного психического здоровья. Когда я смотрю на программный проект, от которого буду зависеть, я хочу знать, пытается ли разработчик этого избежать или же полностью на нём сосредоточен. Если они считают этот вопрос достаточно важным, чтобы пометить свой проект как «без ИИ», это уже полезное для меня заявление.
2 лайка
Печально, что всё обстоит именно так, потому что у меня по-прежнему есть серьёзные этические опасения по поводу того, как компании в сфере ИИ по сути просто крадут код из интернета, уничтожают книги и запускают агрессивные веб-скраперы, которые выкачивают всё подряд, не уважая хост-сервер (даже если отбросить в сторону ненужный кризис с DRAM!), всё ради того, чтобы первыми финишировать в гонке LLM, в которой никто не нуждался. Я уже перестал использовать многие приложения, так как качество кода настолько ухудшилось: например, VS Code стал медленным, неэффективно расходует память и в целом стал баговать. Пакеты обновления Formbricks перестали работать, мой музыкальный плеер стал медленным и раздутым (когда добавлять функции становится слишком легко, ты начинаешь терять фокус проекта и добавляешь всё подряд), и теперь он половину времени просто не играет музыку.
Но проблема в том, что мне нравится Discourse, и я не хочу отказываться от него. Это не IDE или музыкальный плеер, к которым у меня нет привязанности, и не моя ОС, от которой я уже отказался в 2024 году, потому что и так ненавидел Windows. Если софт не станет из-за LLM крайне багованным или медленным, вряд ли я решу прекратить его использовать.
Я не хочу видеть эту ситуацию исключительно в чёрно-белых тонах, но не могу преодолеть этические и приватные опасения, связанные с использованием LLM.
2 лайка
Я разделяю некоторые из ваших наблюдений, и, как человек, ценящий приватность, я понимаю, что, чтобы избежать использования ИИ, вам пришлось бы прекратить пользоваться обычным интернетом (clearnet).
Независимо от самой технологии, она по своей сути имеет коммерческие связи с теми, кто технически обеспечивает работу интернета: Cloudflare, Amazon, Google, Meta, Microsoft.
Мы стоим на пороге цифровой эры, которая со временем будет углублять как её светлую, так и тёмную стороны. Пока мы можем просматривать сайты без идентификации, я понимаю, что мы можем выбрать средний путь, то есть осознанно использовать ИИ.
И я думаю, что именно это и делает Discourse, или я делаю это сам, хотя и принадлежу к той группе людей, о которой вы упомянули, которые разрабатывают плагины или компоненты, не зная, как это делать. Я занимаюсь этим в частном порядке, тестирую их и постоянно учусь, потому что работаю над альтернативным, децентрализованным нишевым проектом, который не получал финансирования годами, и я не нашёл никого, кто был бы готов делать это менее чем за тысячи долларов.
Есть разные нюансы, которые следует проанализировать, и я не верю, что простой тег решает проблему в корне. В моей жизненной философии действие лучше слов, поэтому я хотел бы узнать, каким именно образом и в каком отношении к этому вы на самом деле действуете в конечном счёте.
3 лайка
Не хочу быть педантом, но думаешь ли ты, что использование ИИ является технической проблемой в целом для хорошо зарекомендовавших себя программ, созданных компетентными разработчиками? Я говорю только об эффективности, стабильности и безопасности приложений.
Я видел, как приложения становились медленными, раздутыми, вредоносными или ломались задолго до появления LLM.
Я использую множество приложений в повседневной жизни, и пока не заметил никаких технических проблем, которые якобы были вызваны использованием ИИ в их коде. И я довольно уверен, что сейчас 95% (а может быть и больше) этих приложений в той или иной степени создаются с помощью ИИ.
Если я использую приложение, созданное некомпетентными разработчиками, у меня, конечно, будут проблемы, независимо от того, использовался ли ИИ или нет.
Как и все, я видел драмы в духе «посмотрите, вот это известное приложение, созданное известным разработчиком, сломалось из-за ИИ», и я верю, что это произошло (и произойдёт снова).
Я также считаю, что это редкое явление. Думаю, талантливые разработчики не ждали появления ИИ, чтобы их проект в какой-то момент провалился по какой-либо причине.
Меня беспокоят (а иногда и отвращают) ИИ по многим причинам, включая некоторые из тех, которые ты назвал, но не из-за того, что «моё музыкальное приложение теперь плохое из-за ИИ» (и снова, я не утверждаю, что такого не бывает).
6 лайков
Это зависит от саморегуляции. Использование ИИ для выполнения рутинных задач, таких как написание тестов, не то же самое, что создание целых приложений (или плагинов, в данном случае) и публикация их как собственных. Я уверен, что, если бы я проснулся завтра и решил: «О чём я думал? LLM невероятно этичны и могут действительно помочь в моей рабочей среде!», то, да, я бы смог преодолеть выгорание и разрабатывать вещи быстрее, как некоторые другие, более опытные разработчики. Но лично мне это лишает программирование и разработку всей радости. Мне нравится программировать как хобби и как работа — делегирование этих задач LLM лишает процесс всякого удовольствия, потому что ты не пишешь код; ты просто весь день вводишь промпты.
Это всегда была проблема (Windows 10 вышла в 2015 году). Популярность ИИ и их «умение» в программировании лишь ускорили этот процесс, сделав слишком легким добавление лишнего веса в ваше приложение. Допустим, у меня есть навигационное приложение, и однажды я решаю, что хочу добавить встроенный FLAC-плеер с множеством интеграций. Очевидно, что это не нужно, это выходит далеко за рамки навигационного приложения и было бы тратой моего или времени моих разработчиков. Но вместо этого, если я просто открою Claude и скажу: «Добавь в моё приложение музыкальный плеер с x, y и z», то я смогу просто добавить это и выпустить обновление. То, что было «это может быть круто, но бесполезно и тратит время», превращается в реальную функцию, которой теперь пользуются все мои воображаемые пользователи, что увеличивает размер приложения, делая его медленнее и тяжелее по потреблению RAM/накопителя. Это, в конечном счёте, вымышленный пример, но сценарий абсолютно реален и происходит со многими приложениями.
С LLM или без них, ответственность за создание хорошего приложения лежит на разработчике. Небрежный разработчик, с ИИ или без, либо создаст плохое приложение, либо сделает приличное, но увлечётся и испортит его. Стоит отметить, что я не против LLM так же строго, как против моделей генерации изображений и видео. Я просто считаю, что у них есть своё место, и оно — не в написании кода для большинства людей, которые не могут ответственно использовать эту технологию.
3 лайка
Я не успел(а) вникнуть в ход обсуждения и слишком устал(а), чтобы искать нужные ссылки, но наткнулся(лась) на несколько «систем маркировки» или «рамочных моделей раскрытия информации», которые, возможно, стоит рассмотреть, если они ещё не в «вашем поле зрения». Вопрос сегодня заключается не столько в том, использовался ли ИИ или нет, а в том, как именно. Между тем, чтобы дать LLM абзац инструкций, заставить его выдать плагин, а потом попросить «протестировать и исправить ошибки», и тем, чтобы сохранять общее руководство и контроль над разработкой, используя LLM для выполнения работы в контролируемом режиме, — огромная разница. Для меня было бы разумно рассмотреть возможность просить людей, предоставляющих код, самостоятельно раскрывать факт использования ИИ.
(P.S. Я, конечно, лучше знаком с этими вопросами в сфере письма, а не программирования.)
3 лайка
Да, я разделяю ваше мнение, это проблема 
1 лайк