Discourse を標準的な方法でインストールしています。
すでに「yonstreetbets.com」というウェブサイトを持っており、forum.yonstreetbets.com に Discourse コミュニティを構築したいと考えています。
DigitalOcean にはどのドメインを入力すればよいでしょうか？
おそらくどちらでもありません。現在の DNS プロバイダーを使用して、DNS に A レコードを追加してください。
このボックスに記入して A レコードを取得する必要があります。
ご質問の内容があまり明確ではありませんが、公式インストールガイドを使用している場合、なぜDigital Oceanにドメインを設定しようとするのでしょうか？特に、共有されたスクリーンショットを見ると、その手順はガイドにありません。Jayが言ったようにAレコードを作成したら、公式インストール手順に従って進めてください。
Discourse をインストールしたと思うのですが、
それでもウェブサイトを開くことができません。
問題は、ホストに forum.yonstreetbets.com を設定できないことです。DNS プロバイダーによると、ホストにはドットを 1 つしか含めることができないとのことでした。私のインスタンスの IP アドレスは 128.199.194.254 です。
ドロプレットの公開 IPv4 アドレスが 128.199.194.254 であると仮定すると、DNS の設定は正しいようです。
$ host forum.yonstreetbets.com
forum.yonstreetbets.com has address 128.199.194.254
host コマンドの引数には、通常、サブドメイン（この場合は forum）のみ、またはルートドメインの場合は @ を指定します。したがって、DNS の設定は正しく行われているようです。
DigitalOcean のファイアウォールが、ドロプレットのポート 80 および 443 への接続を許可していることを確認してください。また、Discourse コンテナが構築され、起動されるまでの公式インストール手順を完全に実行したことも確認してください（./discourse-setup または ./launcher rebuild app を実行し、エラーなく完全に完了していれば問題ありません）。
上記の @lucasbasquerotto さんの共有内容に追加すると、./discourse-setup または ./launcher rebuild app をエラーなく実行しても問題が解決しない場合は、トラブルシューティングのために ./discourse-doctor を実行してください。