Da steckt so viel an Vermutungen drin. Frag mich vielleicht erst mal, was ich meine, bevor du auf deine Schlussfolgerung reagierst.
1 „Gefällt mir“
Du bist damit nicht allein. Ich würde es auch schätzen zu wissen, ob für ein Projekt LLMs verwendet wurden oder nicht.
Abgesehen von der Codequalität gibt es auch genügend ethische Fragen im Zusammenhang mit LLMs, und Menschen sollten zumindest in der Lage sein, eine informierte Entscheidung über die Software zu treffen, die sie installieren, und die Projekte, die sie unterstützen. Gibt es Möglichkeiten, LLMs so einzusetzen, dass man gute Software mit genügend Sorgfalt erstellt? Wahrscheinlich. Gibt es ethische Wege, LLMs angesichts des aktuellen Zustands der Branche und der Politik zu nutzen? Ich denke, das ist viel schwieriger.
Aber bevor wir hier noch eine weitere ausgedehnte Debatte anfangen, bitte: Es geht hier nur um Transparenz, damit die Menschen vor der Installation von etwas ihre eigenen Entscheidungen treffen können.
3 „Gefällt mir“
Kannst du mir bitte erklären, wo mein Fehler liegt?
Oder: Was hast du gemeint?
Das ist definitiv der springende Punkt, um den es mir geht. Ich möchte einfach nur vorab Transparenz, damit die Leute wissen, worauf sie sich einlassen. Was die Ethik betrifft: Als jemand, der monatelang LLM-Trainingsdaten vergiftet hat und alles getan hat, um die Technologie aus meinem Leben und all meinen Codebasen fernzuhalten, wäre es zwangsläufig heuchlerisch, wenn ich es für völlig in Ordnung hielte, sie selbst zur App-Entwicklung zu nutzen oder Apps zu verwenden, die zu 100 % von einem LLM erstellt wurden.
Glücklicherweise ist es nicht allzu schwer, die Hausaufgaben zu machen. Meine aktuelle Politik besteht darin, die Mitwirkenden zu überprüfen. Wenn ich viele Commits sehe, die von einem LLM stammen, klicke ich einfach weg und nutze das Projekt nicht. Was ich hier vorschlage, ist lediglich ein kleines, selbst vergebenes Label, um die Leute darüber zu informieren. In diesem Thread gibt es aber auch einige gute Argumente dagegen. Ich verstehe alles darüber, wie es Zeit spart und die Technologie für mehr Menschen zugänglich macht, aber ich finde es nicht unvernünftig, Abstand dazu halten zu wollen. 
5 „Gefällt mir“
Da sage ich mal klar nein und warte ab, wie sich die Lage entwickelt.
Offenbar haben einige Leute ein echtes Interesse am Ausgang dieser Sache. Ich habe meine Meinung gesagt und ein paar Gedanken eingebracht.
Ich habe kein Interesse daran, meine Meinung anderen aufzuzwingen oder dass andere mir ihre aufdrücken.
Ich steige hier aus. Ich warte, bis sich der Staub gelegt hat.
Ich möchte nur noch den Gedanken hinzufügen, dass man sich bei dieser Bedenken keine Sorgen um Plugins oder Themes machen muss, da man Discourse ohnehin nicht mehr verwenden kann. Wir setzen heutzutage alle stark auf KI, um es zu entwickeln.
8 „Gefällt mir“
Das weiß ich, und in einer idealen Welt würde ich gar keine Software verwenden, die von LLMs erstellt wurde. Leider ist die Welt nicht ideal, und ich habe nicht immer die Wahl. Umso wichtiger ist es, diese Wahl dort zu bewahren, wo sie noch möglich ist.
6 „Gefällt mir“
Nur um es hier absolut klarzustellen:
Ich entwickle Discourse mit meinen Agenten. In den letzten 10 Monaten habe ich nicht mehr als ein paar Zeilen Code selbst geschrieben. Trotzdem habe ich in diesem Jahr bedeutende Funktionen implementiert und zahlreiche Fehler behoben.
Falls du nach einem Projekt suchst, bei dem agentisches Coding verboten ist, wirst du leider woanders suchen müssen.
7 „Gefällt mir“
Ich habe kein Verbot gefordert, und auch der OP nicht. Das Thema lautet: „LLM-generierte Themes und Plugins müssen entsprechend gekennzeichnet werden“.
2 „Gefällt mir“
Warum brauchen Themes das, wenn wir für Core eine Freikarte haben?
1 „Gefällt mir“
Ich nehme an, die Überlegung ist: Dass „core“ von KI erstellt wurde, lässt sich nicht vermeiden, aber für die übrigen Teile können wir eine Wahlmöglichkeit anbieten?
Ich verstehe, was hier gefordert wird (und warum), aber ich finde, es wäre effizienter, wie zuvor vorgeschlagen, ein AI-free-Tag einzuführen, das von denen verwendet wird, für die diese Unterscheidung wichtig ist.
4 „Gefällt mir“
Dann stellt sich die Frage, was unter „AI-frei“ zu verstehen ist. Ich nutze zwar Ask Discourse oder Claude für bestimmte Aspekte bei der Entwicklung, aber ich vibe-codet nicht das gesamte Projekt. In welchem Umfang würde ein solcher Name also den Einsatz von KI abdecken? Gar keine KI, KI-Chats zur Klärung von Fragen oder vollständige Generierung? Ich denke, diese Unterscheidung sollte klar getroffen werden.
4 „Gefällt mir“
Für mich persönlich würde KI-frei bedeuten:
„Ich habe den gesamten Code von Hand geschrieben und wenn ich nach einer zufälligen Zeile Code in diesem Projekt gefragt werde, weiß ich, was sie tut – oder zumindest kann ich es nach einem kurzen Lesen herausfinden, falls ich mich daran erinnern muss."
Aber ja, die Definition müsste klar sein und ich bin mir sicher, dass nicht alle dieselbe haben werden.
Dann wieder, wenn es um ethische oder ökologische Bedenken geht, ist selbst das Stellen von Fragen an eine KI Teil des Problems …
Da ist der Wurm drin.
4 „Gefällt mir“
Ein einfacher Anfang wäre: „Kein von LLMs generierter Code in diesem Projekt.“ Das lässt sich wahrscheinlich nicht zu 100 % exakt umsetzen, es ist vor allem eine Absichtserklärung. Ich sehe oft Parallelen zum Veganismus: Wenn man es auf die Spitze treibt, landet man am Ende bei Widersprüchen und unmöglichen Entscheidungen. Aber darum geht es nicht. Es geht darum, unnötigen Schaden so gering wie möglich zu halten.
Ich sehe viel Schaden durch den Einsatz von LLMs: für die langfristige Codequalität, für unsere Umwelt, für unsere Gesellschaft und für unsere eigene psychische Gesundheit. Wenn ich mir ein Softwareprojekt anschaue, von dem ich abhängen werde, möchte ich wissen, ob der Entwickler versucht, diesen Schaden zu vermeiden, oder ob er voll dabei ist. Wenn sie das Thema für wichtig genug halten, um ihr Projekt als „AI-free“ zu kennzeichnen, ist das für mich bereits eine hilfreiche Aussage.
2 „Gefällt mir“
Es ist bedauerlich, dass es so kommen musste, denn ich habe nach wie vor starke ethische Bedenken gegenüber der Art und Weise, wie KI-Unternehmen im Grunde nur Code aus dem Internet stehlen, Bücher zerstören und anderweitig missbräuchliche Crawler laufen lassen, die alles plündern, ohne den Host-Server zu respektieren (selbst wenn man die unnötige DRAM-Krise außer Acht lässt!), nur um im Rennen um die LLMs, das niemand haben wollte, als Erster anzukommen. Ich habe bereits die Nutzung vieler Apps eingestellt, weil die Codequalität so stark nachgelassen hat, wie bei VS Code, das langsam und speicherineffizient wurde und generell voller Fehler steckt. Die Upgrade-Pakete von Formbricks funktionieren nicht mehr, mein Musikplayer wurde langsam und aufgebläht (wenn das Hinzufügen von Funktionen so leicht wird, verliert man schnell den Projektumfang aus den Augen und fügt alles hinzu) und spielt die Hälfte der Zeit keine Musik ab.
Das Problem ist aber, dass ich Discourse mag und es nicht aufgeben möchte. Es ist ja kein IDE oder Musikplayer, mit dem ich keine Bindung habe, oder mein Betriebssystem, denn ich hasste Windows bereits, bevor ich 2024 damit aufgehört habe. Es ist unwahrscheinlich, dass ich mich entscheide, die Nutzung einzustellen, es sei denn, die Software wird als Folge der LLMs extrem fehleranfällig oder langsam.
Ich möchte in dieser ganzen Situation nicht ganz „schwarz-weiß“ denken, aber ich komme über die ethischen und Datenschutzbedenken hinweg, die mit der Nutzung eines LLMs einhergehen, nicht hinweg.
2 „Gefällt mir“
Ich teile einige deiner Beobachtungen und verstehe als jemand, der den Datenschutz schätzt, dass man auf die Nutzung von KI verzichten müsste, indem man auf die Nutzung des Clearnets verzichtet.
Unabhängig von der Technologie selbst hat sie inhärente kommerzielle Verbindungen zu jenen, die die Nutzung des Internets technisch ermöglichen: Cloudflare, Amazon, Google, Meta, Microsoft.
Wir erleben einen Wandel in die digitale Ära, der sowohl ihr Licht als auch ihre Dunkelheit weiter vertiefen wird. Solange wir noch ohne eine ID stöbern können, verstehe ich, dass wir den Mittelweg wählen können, nämlich KI bewusst zu nutzen.
Und ich denke, genau das tut Discourse – oder ich tue es selbst, auch wenn ich zu der Gruppe gehöre, die du erwähnt hast, die Plugins oder Komponenten entwirft, ohne zu wissen, wie man das macht. Ich mache es privat, teste sie und lerne ständig dazu, weil ich an einem alternativen, dezentralen Nischenprojekt arbeite, das seit Jahren keine Finanzierung erhalten hat, und ich niemanden gefunden habe, der es für weniger als Tausende von Dollar für mich macht.
Es gibt verschiedene Nuancen zu analysieren, und ich glaube nicht, dass ein einfaches Tag das Problem an der Wurzel oder im Kern löst. In meiner Lebensphilosophie ist Tun besser als Reden, daher würde ich gerne wissen, wie und in Bezug auf was du am Ende tatsächlich handelst.
3 „Gefällt mir“
Ich will nicht kleinlich sein, aber denkst du, dass die Nutzung von KI technisch ein Problem ist – im Allgemeinen – für etablierte Software, die von kompetenten Entwicklern erstellt wird? Und ich spreche hier nur über die Effizienz, Stabilität und Sicherheit der Apps.
Ich habe viele Apps erlebt, die schon lange vor der Existenz von LLMs langsam, aufgebläht, bösartig oder kaputt waren.
Ich nutze im Alltag viele Anwendungen und habe bisher kein technisches Problem festgestellt, das angeblich durch den Einsatz von KI in deren Code verursacht wurde. Und ich bin mir ziemlich sicher, dass heutzutage 95 %, wenn nicht sogar mehr, dieser Apps in irgendeiner Form mit KI erstellt werden.
Wenn ich eine App von inkompetenten Entwicklern nutze, wird es sicher schlecht, ob KI zum Einsatz kommt oder nicht.
Wie jeder andere habe ich auch Dramen wie „Schaut euch diese berühmte App eines berühmten Entwicklers an, die wegen KI kaputtgegangen ist“ gesehen, und ich glaube, dass das passiert ist (und wieder passieren wird).
Ich halte das aber für einen seltenen Fall. Ich denke, talentierte Entwickler mussten nicht auf KI warten, damit ihre Projekte irgendwann aus irgendeinem Grund scheitern.
Mich beunruhigt (und manchmal ekelte es mich) aus vielen Gründen KI, einschließlich einiger der von dir genannten, aber nicht wirklich wegen „Meine Musik-App ist jetzt schlecht wegen KI“ (und wieder: Ich sage nicht, dass das nicht passiert).
6 „Gefällt mir“
Das hängt von der Selbstregulierung ab. KI mit lästigen Aufgaben wie dem Schreiben von Tests zu betrauen, ist nicht wirklich dasselbe wie ganze Apps (oder in diesem Fall Plugins) zu bauen und sie als die eigenen auszugeben. Ich bin mir sicher, dass ich, wenn ich morgen aufwache und beschließe: „Was war ich nur für ein Idiot, LLMs sind super ethisch und können meinen Workflow wirklich unterstützen!“, dann tatsächlich in der Lage wäre, aus dem Burnout herauszukommen und Dinge schneller zu entwickeln, so wie es einige andere, erfahrenere Entwickler tun. Aber persönlich nimmt mir das den ganzen Spaß am Programmieren und an der Entwicklung. Ich genieße das Programmieren als Hobby und als Beruf – es an ein LLM abzugeben, nimmt jeglichen Spaß aus der Gleichung, weil man dann nicht wirklich codet, sondern den ganzen Tag nur Prompts eintippt.
Das war schon immer ein Problem (Windows 10 wurde 2015 veröffentlicht). Dass KI bei der Programmierung populär und „gut“ darin wurde, hat es nur beschleunigt, weil es so einfach gemacht hat, Bloat in seine App einzubauen. Nehmen wir an, ich hätte eine Navigations-App und beschließe eines Tages plötzlich, einen integrierten FLAC-Player mit unzähligen Integrationen hinzufügen zu wollen. Offensichtlich braucht es das nicht, es liegt weit außerhalb des Rahmens einer Navigations-App und wäre eine Verschwendung meiner oder der Zeit meiner Entwickler. Aber wenn ich stattdessen einfach zu Claude gehe und sage: „Füge meiner App einen Musikplayer mit x, y und z hinzu“, kann ich es einfach hinzufügen und veröffentlichen. Aus dem „Das könnte cool sein, ist aber nutzlos und eine Zeitverschwendung“ wird plötzlich ein reales Feature, das meine imaginären Nutzer jetzt alle haben und das den Footprint der App vergrößert, sie langsamer macht und mehr RAM/Speicherplatz belegt. Das ist am Ende des Tages zwar nur eine Einbildung, aber das Szenario ist es absolut nicht und passiert bei vielen Apps.
Mit oder ohne LLMs liegt es in der Verantwortung des Entwicklers, eine gute App zu erstellen. Ein nachlässiger Entwickler, mit oder ohne KI, wird entweder eine schlechte App bauen oder eine ordentliche, aber sich davon treiben lassen und sie ruinieren. Sei es bekannt, dass ich nicht strikt gegen LLMs bin, so wie ich es bei Bild- und Videogenerierungsmodellen bin. Ich glaube nur, dass sie ihren Platz haben, und zwar nicht beim Coden – zumindest nicht für die große Mehrheit der Menschen, die die Technologie nicht verantwortungsvoll nutzen können.
3 „Gefällt mir“
Ich habe den Verlauf der Unterhaltung nicht vollständig mitbekommen und bin gerade zu erschöpft, um die passenden Referenzen nachzuschlagen, aber ich bin auf ein paar « Kennzeichnungssysteme » oder « Offenlegungsrahmen » gestoßen, die einen Blick wert sein könnten, falls sie noch nicht auf « euren Radaren » sind. Die Frage heute dreht sich weniger darum, ob KI verwendet wurde oder nicht, sondern eher darum, wie. Es gibt einen enormen Unterschied zwischen dem, einem LLM einen Absatz mit Anweisungen zu geben, damit es ein Plugin ausspuckt, und es dann zu bitten, « Fehler zu testen und zu beheben », und dem, die Gesamtsteuerung und Aufsicht über die Entwicklung beizubehalten und das LLM in einer kontrollierten Weise arbeiten zu lassen. Für mich wäre es etwas, das man in Betracht ziehen sollte, Leute, die Code bereitstellen, zur Selbstoffenlegung aufzufordern.
(P.S.: Ich kenne mich mit diesen Themen eher im Bereich des Schreibens aus als im Bereich des Codings, versteht sich.)
3 „Gefällt mir“
Ja, ich teile deine Meinung dazu, das ist ein Sorgepunkt 
1 „Gefällt mir“