В настоящее время некоторые пользователи могут загружать плагины, темы или компоненты, полностью сгенерированные LLM, не указывая об этом. Есть много причин, по которым полезно знать, когда что-то полностью создано с помощью LLM, хотя на данный момент нет обязанности маркировать такие плагины как сгенерированные ИИ. Лично я хотел бы знать об этом заранее, чтобы не устанавливать низкокачественный плагин с множеством проблем с производительностью, оптимизацией и пользовательским опытом, которые характерны для плагинов, созданных с помощью LLM.
Конечно, это зависит от честности и прозрачности пользователей (и люди, у которых темы сгенерированы ИИ, могут не знать о них больше, чем указано в описании), но наличие тега вроде #ai-generated для активов, преимущественно созданных с помощью ИИ, было бы полезно для всех.
Я не согласен с тем, что плагин, сгенерированный LLM, по своей сути является низкокачественным или обязательно страдает от проблем с производительностью, оптимизацией или UX. Качество результата во многом зависит от человека, который направляет LLM и проверяет её вывод.
Я всегда гордился программным обеспечением, которое разрабатывал на протяжении последних 40 лет, и внедрение LLM в мой рабочий процесс повысило качество моей работы, а не снизило его.
С другой стороны, я видел немало плагинов, написанных вручную, в которых полно уязвимостей безопасности, проблем с производительностью и плохих дизайнерских решений, и я искренне желал бы, чтобы их авторы использовали LLM. В конечном счёте, важна не степень участия LLM в написании кода, а качество разработчика и самого кода.
Мне интересно, как вы рекомендуете рецензировать и/или обновлять код, сгенерированный LLM, для тех из нас, кто начинает заниматься «вайб-кодингом», чтобы реализовывать новые функции или настраивать уже существующие.
Я знаю, что коллективный обзор в публичных репозиториях — это идеал, но я хотел бы сначала сделать свою домашнюю работу и публиковать только те версии, над которыми я уже исчерпал свои текущие возможности.
Я согласен с предыдущим комментарием: я не против ИИ, но при этом осознаю, что ВСЁ, что они генерируют, должно быть проверено, верифицировано и обновлено людьми.
Это вполне справедливо, и в конечном счёте я могу говорить только от своего имени. Мои наблюдения основаны на низкокачественных «мусорных» приложениях, которые все выглядят одинаково и в целом имеют низкое качество (как с точки зрения функциональности, так и безопасности), а также на существующих приложениях, качество которых резко упало после того, как они начали в значительной степени перекладывать работу на LLM (например, Visual Studio Code и Formbricks; оба этих продукта я перестал использовать). Даже если ваше приложение идеально, всё равно существуют этические опасения, поэтому было бы здорово, если бы существовала какая-то форма уведомления для таких созданий, как было предложено. Это не означает, что кто-то обязан основывать что-либо на этой метке, но если вы хотите, то наличие такой опции было бы приятно.
Как я уже сказал, это система, основанная на доверии, и ответственность за то, чтобы код был помечен как сгенерированный, лежит исключительно на разработчике. Конечно, есть случаи, когда LLM сама помечает себя в логах git (как это делают большинство), поэтому пользователь с уровнем TL3+ может предпринять необходимые действия, просмотрев GitHub, если сочтёт нужным.
Я ценю ваш ответ, спасибо. Мой вопрос также адресован всем и касается инструментов, которые в настоящее время существуют для верификации кода, сгенерированного LLM.
Я не разработчик, но мне удалось реализовать функции, которых не было в Discourse. И я хочу сделать всё возможное наилучшим образом.
Я подумаю о добавлении метки, если решу опубликовать свои репозитории; на данный момент они приватны именно потому, что я их тестирую, и мне важно всё сделать правильно, прежде чем распространять среди сообщества.
Я был бы крайне удивлён, если бы большая часть Core-кода (включая Core-плагины) сейчас не разрабатывалась с помощью кодинг-агентов — настолько сильно изменился процесс разработки.
На мой взгляд, сейчас очень трудно оправдать неиспользование кодинг-агентов в большинстве задач, так как потеря в эффективности просто не имеет бизнес-смысла.
Меня совершенно не волнует «как именно был создан плагин» и использовал ли разработчик карандаш или ручку.
Фраза «Здесь нет ИИ» не даёт мне ни малейшего дополнительного доверия при установке темы или плагина.
Однако… есть куда более серьёзная проблема, которую нам нужно решить в CDCK.
Ядро плагинов и исходный код Discourse регулярно проходят проверку безопасности, поэтому, когда пользователь устанавливает поддерживаемый канал, он может быть уверен в безопасности кода.
Третьесторонние плагины и темы здесь — это «Дикий Запад»: внести свой вклад может кто угодно, мы не проводим проверку безопасности и не гарантируем, что соблюдаются лучшие практики. Это ставит сообщество под угрозу.
Я хотел бы прийти к тому, чтобы хотя бы версия XYZ темы автоматически проходила сканирование, чтобы у тех, кто размещает серверы самостоятельно, было хотя бы минимальное доверие.
Так что моё видение здесь прямо противоположно требовать, чтобы версии сторонних тем и плагинов проходили某种 сканирование ИИ перед тем, как их здесь рекламируют.
На мой взгляд, код-ревью с помощью LLM — это совсем не то же самое, что «Claude, собери мне это приложение и не делай ни одной ошибки», а затем публикация результата с минимальной или вообще отсутствующей валидацией и правками, выполненными лично вами. По крайней мере, с этической точки зрения. К сожалению, заставить конечного пользователя нести ответственность практически невозможно, и как бы вы ни старались, кто-то найдёт способ скачать что-то вредоносное. Но в любом случае, насколько этичны LLM — это отдельный разговор, который не слишком актуален для этой темы.
И это нормально! Я не призываю к тотальному запрету на всё, что так или иначе связано с ИИ, в разделе Customization. Я просто хотел бы, чтобы такие вещи были правильно помечены, чтобы те, кто не хочет открывать эту «пандорину коробку», не сделали этого случайно.
требовать, чтобы версии сторонних тем и плагинов проходили某种 сканирование ИИ перед тем, как их здесь рекламируют.