LLM生成のテーマとプラグインには、その旨のタグ付けを義務化すべき

低品質なプラグインやコンポーネントにも懸念を感じており、プログラミングに無知な人物が99%「バイブコーディング」で生成したものを信頼するのは難しいと考えています。

ただし、ここにいる経験豊富なプログラマーの多くが、AIが登場するずっと前から下手なプログラマーが存在したと言っています[1]。雑で信頼できず、欠陥のあるコードは、古くから手作業で書かれてきました。

私が本当に心配なのは、バイブコーディングされたアプリやプラグイン、あるいはその他のものを見て、作者がコードをレビューしていないと疑うことです。

私自身はプログラミングの基礎的な知識はありますが、長期間コードを書いておらず、以前から得意でもありませんでした。いくつかのプロジェクトでバイブコーディングを試してみました。

最初はメタに公式に公開することにかなり抵抗がありましたが、各コードの動作をレビューし理解する時間をかけた後、自分のアプローチをトピック内で公開的に説明することで、最終的に公開に至りました。公開前に読んだ内容をすべて覚えているわけではありませんが、少なくとも公開時点での信頼性とセキュリティを確保することができました。

バイブコーディングが、非常に安全性の低いプラグインをリリースさせてしまう可能性を説明する良い例があります。

🖼️ Topic Gallery を開発する前に、類似のプラグインのプロトタイプをここで作成しました: A way to monitor user-uploaded files 🖼️ - #2 by Canapin
これはうまく動作し、AIは私の指示に従っていました。

しかし、問題がありました:この機能は明らかにモデレーション(管理)用のものだったにもかかわらず、AIは権限を考慮に入れていませんでした。訪問者を含むすべてのユーザーが、このページを開き、全ユーザーがアップロードしたファイルを確認できてしまったのです。私には、これは管理者限定であるべきだと明白でしたが、AIはそのことを「考え」ませんでした。また、私がそれを要求しなかったため、デフォルトで公開ページが作成されました。

そのため、私とAIでさえこのようなセキュリティ漏洩を見逃すことができたなら、コードを書けない人々がバイブコーディングでカスタムテーマやプラグインを作成した場合、残念ながら同じことをしてしまう可能性がある、と自分に言い聞かせています。

ソフトウェアにおけるAI生成コードについての意見は、強く二極化しています。Claudeが最近のコミットの共同著者として記載されている人気のあるオープンソースプロジェクトを見てみると、一部の人間からの猛烈な嫌悪の波がわかるでしょう。
私は、これらのことには注意深く向き合い、意見をもっとニュアンス豊かにすべきだと確信しています。

vibe-coded というようなタグを導入し、適切にコードが書かれ安全性の高いカスタマイズやその作者の評判を不必要に傷つけることには、特に賛成ではありません。

今では誰でもカスタマイズを作成できるようになり、毎日さらに多くのものが出てくる一方で、それらをレビューできる人員は十分ではないことを知っています。

AIによるレビューが解決策かもしれません。私の直感は、さまざまな理由からこのアイデアをあまり好きではありませんが、Samがこのような解決策を提案するなら、おそらく良いものだと信じています。なぜなら、彼のスキルと判断力には非常に信頼を置いているからです。特に、私自身はプログラミングについて何もわかっていないので尚更です。 :laughing:

もしかすると、プログラミングやDiscourseエコシステムに精通しているここにいる開発者たちに、この分野の専門性を明示的に示すタイトルを付与すれば、登録せずにカスタマイズを探している訪問者にとっても信頼できる開発者として認識されるようになるかもしれません。これはdarkpxlzさんが求めていることとは逆の方向性です。「信頼できない可能性のある」カスタマイズを「恥じる」のではなく、信頼できるものを強調するのです。 :slight_smile:

ただ、考えの種程度ですが。 :person_shrugging:


  1. 言えるのは、私もかつてその一人だったからです! ↩︎

「いいね!」 5