インスタンスパフォーマンスの向上（メガトピック、データベースサイズ、極端な負荷）

サポート インストール
1

Hi Discourse Community!

Recently I have been trying to improve the performance of my Discourse installation and clean up a little since my site has been growing exponentially lately.

I have identified two issues, searched about them here but I don’t see a clear answer for some specifics, so I hope that this doesn’t represent much of a bother to anyone.

The first issue I have is the DB Size, which is pretty big. I’m running a 4GB Mem/80GB Disk instance on Digital Ocean and the DB is choking the disk size already. I do believe that eventually I will have to move it (if so, how?) but maybe I’m doing something wrong, following Sam’s Help I exported the following to make it easier:


table_name                  | row_estimate | table_size | index_size | total_size
--------------------------------------------------------------------------
post_timings                | 155307152    | 8004 MB    | 16 GB      | 24 GB
posts                       | 2257277      | 2432 MB    | 4810 MB    | 7242 MB
post_search_data            | 2279749      | 1992 MB    | 769 MB     | 2761 MB
user_actions                | 6549714      | 570 MB     | 2189 MB    | 2759 MB
topic_views                 | 8843734      | 444 MB     | 1494 MB    | 1937 MB
user_visits                 | 569317       | 33 MB      | 1892 MB    | 1925 MB
notifications               | 1482664      | 465 MB     | 914 MB     | 1379 MB
topic_users                 | 4821392      | 500 MB     | 449 MB     | 949 MB
top_topics                  | 47437        | 28 MB      | 773 MB     | 802 MB
user_auth_token_logs        | 1690555      | 515 MB     | 133 MB     | 648 MB
post_actions                | 1610428      | 145 MB     | 367 MB     | 512 MB
post_revisions              | 113187       | 396 MB     | 9312 kB    | 406 MB
topic_links                 | 605525       | 135 MB     | 254 MB     | 389 MB
topics                      | 56970        | 104 MB     | 227 MB     | 331 MB
web_hook_events             | 107760       | 295 MB     | 10 MB      | 306 MB
post_stats                  | 1955191      | 151 MB     | 97 MB      | 248 MB
directory_items             | 13026        | 1312 kB    | 157 MB     | 158 MB
incoming_links              | 812553       | 73 MB      | 82 MB      | 155 MB
post_replies                | 1111686      | 69 MB      | 71 MB      | 139 MB
topic_link_clicks           | 806821       | 54 MB      | 43 MB      | 97 MB
draft_sequences             | 654989       | 36 MB      | 48 MB      | 84 MB
topic_search_data           | 54056        | 40 MB      | 24 MB      | 65 MB
stylesheet_cache            | 901          | 57 MB      | 200 kB     | 57 MB
user_profile_views          | 204427       | 15 MB      | 30 MB      | 46 MB
quoted_posts                | 223337       | 18 MB      | 23 MB      | 41 MB
poll_votes                  | 142349       | 13 MB      | 20 MB      | 32 MB
users                       | 2211         | 2360 kB    | 29 MB      | 32 MB
given_daily_likes           | 252806       | 12 MB      | 16 MB      | 28 MB
scheduler_stats             | 115081       | 17 MB      | 4736 kB    | 21 MB
user_histories              | 30331        | 8848 kB    | 10040 kB   | 18 MB
reviewables                 | 16263        | 10032 kB   | 8344 kB    | 18 MB
optimized_images            | 34463        | 8088 kB    | 10 MB      | 18 MB
post_uploads                | 73123        | 4104 kB    | 13 MB      | 17 MB
uploads                     | 18897        | 5088 kB    | 9080 kB    | 14 MB
email_logs                  | 23224        | 4024 kB    | 9960 kB    | 14 MB
post_custom_fields          | 11043        | 3192 kB    | 9328 kB    | 12 MB
search_logs                 | 68429        | 7480 kB    | 4776 kB    | 12 MB
user_badges                 | 37176        | 2920 kB    | 5008 kB    | 7928 kB
unsubscribe_keys            | 14820        | 3352 kB    | 4480 kB    | 7832 kB
user_auth_tokens            | 5328         | 2536 kB    | 3608 kB    | 6144 kB
reviewable_scores           | 14681        | 3144 kB    | 2768 kB    | 5912 kB
reviewable_histories        | 31482        | 2976 kB    | 2616 kB    | 5592 kB
poll_options                | 20886        | 2560 kB    | 2552 kB    | 5112 kB
skipped_email_logs          | 11164        | 2528 kB    | 2328 kB    | 4856 kB
topic_allowed_users         | 21933        | 1424 kB    | 1872 kB    | 3296 kB
user_uploads                | 19038        | 1040 kB    | 1688 kB    | 2728 kB
user_stats                  | 2211         | 1888 kB    | 160 kB     | 2048 kB
drafts                      | 1324         | 1424 kB    | 368 kB     | 1792 kB
user_custom_fields          | 7467         | 688 kB     | 1064 kB    | 1752 kB
application_requests        | 11244        | 792 kB     | 528 kB     | 1320 kB
topic_tags                  | 10257        | 696 kB     | 528 kB     | 1224 kB
user_associated_accounts    | 670          | 1032 kB    | 184 kB     | 1216 kB
user_profiles               | 2211         | 424 kB     | 720 kB     | 1144 kB
email_tokens                | 3439         | 480 kB     | 528 kB     | 1008 kB
polls                       | 4030         | 520 kB     | 408 kB     | 928 kB
user_search_data            | 2215         | 376 kB     | 520 kB     | 896 kB
topic_custom_fields         | 2738         | 280 kB     | 568 kB     | 848 kB
group_users                 | 4364         | 344 kB     | 448 kB     | 792 kB
plugin_store_rows           | 2090         | 488 kB     | 296 kB     | 784 kB
incoming_referers           | 3779         | 352 kB     | 424 kB     | 776 kB
user_avatars                | 2210         | 208 kB     | 560 kB     | 768 kB
web_crawler_requests        | 1389         | 264 kB     | 440 kB     | 704 kB
group_histories             | 2210         | 272 kB     | 416 kB     | 688 kB
user_emails                 | 2218         | 224 kB     | 376 kB     | 600 kB
user_archived_messages      | 3019         | 240 kB     | 232 kB     | 472 kB
user_options                | 2218         | 384 kB     | 72 kB      | 456 kB
topic_allowed_groups        | 2098         | 128 kB     | 216 kB     | 344 kB
schema_migration_details    | 994          | 192 kB     | 88 kB      | 280 kB
group_mentions              | 933          | 104 kB     | 152 kB     | 256 kB
categories                  | 23           | 96 kB      | 112 kB     | 208 kB
google_user_infos           | 314          | 136 kB     | 72 kB      | 208 kB
theme_fields                | 24           | 168 kB     | 32 kB      | 200 kB
category_users              | 569          | 64 kB      | 136 kB     | 200 kB
javascript_caches           | 8            | 112 kB     | 64 kB      | 176 kB
incoming_domains            | 701          | 80 kB      | 96 kB      | 176 kB
groups                      | 51           | 120 kB     | 48 kB      | 168 kB
category_tag_stats          | 173          | 48 kB      | 104 kB     | 152 kB
tag_search_data             | 109          | 64 kB      | 72 kB      | 136 kB
schema_migrations           | 994          | 88 kB      | 48 kB      | 136 kB
topic_embeds                | 218          | 80 kB      | 56 kB      | 136 kB
badges                      | 51           | 80 kB      | 48 kB      | 128 kB
translation_overrides       | 170          | 72 kB      | 48 kB      | 120 kB
invites                     | 21           | 56 kB      | 64 kB      | 120 kB
user_api_keys               | 4            | 48 kB      | 64 kB      | 112 kB
category_search_data        | 20           | 48 kB      | 64 kB      | 112 kB
tags                        | 109          | 56 kB      | 48 kB      | 104 kB
screened_ip_addresses       | 9            | 48 kB      | 48 kB      | 96 kB
user_second_factors         | 26           | 48 kB      | 48 kB      | 96 kB
oauth2_user_infos           | 4            | 48 kB      | 48 kB      | 96 kB
site_settings               | 165          | 64 kB      | 32 kB      | 96 kB
api_keys                    | 1            | 48 kB      | 48 kB      | 96 kB
category_featured_topics    | 123          | 48 kB      | 48 kB      | 96 kB
screened_emails             | 4            | 48 kB      | 48 kB      | 96 kB
screened_urls               | 1            | 48 kB      | 48 kB      | 96 kB
topic_groups                | 245          | 56 kB      | 32 kB      | 88 kB
muted_users                 | 103          | 40 kB      | 48 kB      | 88 kB
tag_group_permissions       | 11           | 40 kB      | 48 kB      | 88 kB
tag_users                   | 8            | 40 kB      | 48 kB      | 88 kB
child_themes                | 6            | 40 kB      | 48 kB      | 88 kB
category_tags               | 9            | 40 kB      | 48 kB      | 88 kB
topic_timers                | 15           | 40 kB      | 48 kB      | 88 kB
ignored_users               | 10           | 40 kB      | 48 kB      | 88 kB
group_requests              | 0            | 24 kB      | 64 kB      | 88 kB
user_warnings               | 7            | 40 kB      | 48 kB      | 88 kB
email_change_requests       | 64           | 56 kB      | 32 kB      | 88 kB
web_hooks                   | 1            | 72 kB      | 16 kB      | 88 kB
custom_emojis               | 132          | 56 kB      | 32 kB      | 88 kB
color_scheme_colors         | 110          | 56 kB      | 32 kB      | 88 kB
tag_group_memberships       | 192          | 48 kB      | 32 kB      | 80 kB
category_custom_fields      | 17           | 48 kB      | 32 kB      | 80 kB
themes                      | 10           | 48 kB      | 32 kB      | 80 kB
badge_types                 | 3            | 48 kB      | 32 kB      | 80 kB
onceoff_logs                | 39           | 48 kB      | 32 kB      | 80 kB
category_tag_groups         | 8            | 40 kB      | 32 kB      | 72 kB
group_archived_messages     | 56           | 40 kB      | 32 kB      | 72 kB
category_groups             | 3            | 40 kB      | 32 kB      | 72 kB
push_subscriptions          | 12           | 48 kB      | 16 kB      | 64 kB
tag_groups                  | 10           | 48 kB      | 16 kB      | 64 kB
theme_settings              | 6            | 48 kB      | 16 kB      | 64 kB
ar_internal_metadata        | 1            | 48 kB      | 16 kB      | 64 kB
backup_metadata             | 6            | 48 kB      | 16 kB      | 64 kB
user_fields                 | 9            | 48 kB      | 16 kB      | 64 kB
remote_themes               | 7            | 48 kB      | 16 kB      | 64 kB
badge_groupings             | 5            | 48 kB      | 16 kB      | 64 kB
web_hook_event_types        | 10           | 48 kB      | 16 kB      | 64 kB
user_security_keys          | 0            | 8192 bytes | 56 kB      | 64 kB
color_schemes               | 11           | 48 kB      | 16 kB      | 64 kB
permalinks                  | 0            | 24 kB      | 32 kB      | 56 kB
incoming_emails             | 0            | 8192 bytes | 48 kB      | 56 kB
post_action_types           | 8            | 40 kB      | 16 kB      | 56 kB
web_hook_event_types_hooks  | 1            | 40 kB      | 16 kB      | 56 kB
watched_words               | 0            | 24 kB      | 32 kB      | 56 kB
user_exports                | 0            | 24 kB      | 16 kB      | 40 kB
github_user_infos           | 0            | 8192 bytes | 24 kB      | 32 kB
backup_draft_posts          | 0            | 8192 bytes | 24 kB      | 32 kB
categories_web_hooks        | 0            | 16 kB      | 16 kB      | 32 kB
theme_translation_overrides | 0            | 8192 bytes | 24 kB      | 32 kB
single_sign_on_records      | 0            | 8192 bytes | 24 kB      | 32 kB
post_reply_keys             | 0            | 0 bytes    | 24 kB      | 24 kB
backup_draft_topics         | 0            | 0 bytes    | 24 kB      | 24 kB
user_open_ids               | 0            | 8192 bytes | 16 kB      | 24 kB
post_details                | 0            | 8192 bytes | 16 kB      | 24 kB
message_bus                 | 0            | 8192 bytes | 16 kB      | 24 kB
anonymous_users             | 0            | 0 bytes    | 24 kB      | 24 kB
group_custom_fields         | 0            | 8192 bytes | 16 kB      | 24 kB
topic_invites               | 0            | 0 bytes    | 24 kB      | 24 kB
shared_drafts               | 0            | 0 bytes    | 24 kB      | 24 kB
instagram_user_infos        | 0            | 8192 bytes | 8192 bytes | 16 kB
reviewable_claimed_topics   | 0            | 0 bytes    | 16 kB      | 16 kB
user_field_options          | 0            | 8192 bytes | 8192 bytes | 16 kB
embeddable_hosts            | 0            | 8192 bytes | 8192 bytes | 16 kB
invited_groups              | 0            | 0 bytes    | 8192 bytes | 8192 bytes
developers                  | 0            | 0 bytes    | 8192 bytes | 8192 bytes
tags_web_hooks              | 0            | 0 bytes    | 8192 bytes | 8192 bytes
groups_web_hooks            | 0            | 0 bytes    | 8192 bytes | 8192 bytes
badge_posts                 | 0            | 0 bytes    | 0 bytes    | 0 bytes

(on the other hand, the /var/discourse/shared/standalone/postgres_data/base folder is over 47GB)

Can it be reduced somehow or is it logical given the size of some topics? (more details below).

The other issue maaaay be related, I believe, which is that I keep getting the famous " Due to extreme load, this is temporarily being shown to everyone as a logged out user would see it" I read on a post that increasing Unicorn Workers may be an option (never touched that, honestly havent found how to do it or how viable it is without endangering the whole installation). As a note we do have quite some topics with more than 10k answers, so that may be a correlation between DB Size and Performance issues? (Throwing it out, not sure).

I wonder if there is some way of optimizing it (I found this one), either on the very same instance or recurring to something like a HA installation (which I don’t know if it is supported), but I do believe that I’m jumping the gun in my ignorance. I do appreciate any help I could get.

As a note: I was using a swap file when the instance was smaller, I do believe it is disabled now (is there a way of verifying this?).

Thanks and sorry for the n00bness.

「いいね！」 5
2

あの post_timings テーブルは本当に大変ですね。何かを壊さずに、このテーブルを切り詰めたり、短縮したり、要約したりする手立てはありませんか、@sam？

「いいね！」 7
3

ミニアップデート：ユニコーンランナーの設定をいじってみましたが、コアとワーカーの関係性があるのか、それとも「CPU% × 秒」のような共有 CPU の仕組みなのか、よくわかりません。これに関するベストプラクティスはありますか？

また、PostgreSQL について調べてサイズの問題を回避する方法を探っていますが、バックアップは取れているものの、単に不要な部分を切り捨てるだけで、長期的にアプリがどう反応するかはわかりません。

クイック編集：スワップファイルを削除しました。現在、10,000 件以上のトピックの扱い方を検討中です。ついでに伺いたいのですが、これらが全体像にとってどれほど危険なのか教えてください（推奨事項がある以上、何らかのリスクはあると推測しますが、もし他に学ぶべき点があれば知りたいです）。

「いいね！」 1
4

私も1万件以上のトピックをいくつか持っており、サイトが非常に混雑しているときに、このメッセージが時々表示されるのを見ています。

「いいね！」 1
5

Discourse のデフォルト設定（1 万を超える返信があるトピックを自動クローズする機能）を無効にしないよう、強くお勧めします。この設定がデフォルトで有効になっているのには理由があります。:scream:

それに加え、巨大な post_timings テーブルの問題は我々の認識にあります :satellite_antenna:。現在、この問題に対処する方法をブレインストーミング中であり、現在の 2.5 リリースで対応する可能性もあります。cc @sam @eviltrout

「いいね！」 2
6

最終的な「OK」ボタンに「悪いことが起きても構いません」と表示され、3回確認する必要があると思います。
メガトピックを実際に機能させている人はいますか？

7

常時約 80 のメгатピックが稼働しており（最大のトピックでは 128,000 件の投稿があります）。https://www.forumscp.com

時々 502 エラーが発生することがあります（これが原因かどうかはわかりません）。データベースサイズを超える値に db_shared_buffers パラメータを調整してからは、すべてスムーズに動作しています。

8

これは非常に悪いアイデアです。年間や季節ごとのより小さなトピックに切り替えるため、これらのトピックを停止すべきです。詳細は以下をご覧ください。

「いいね！」 3
9

10万件を超える投稿を持つメガトピックがいくつかあるサイトを持っています。それが間違いだと伝えましたが、彼らはそれでもそれを望みました。彼らはパフォーマンスの問題について不満を言っています。すぐに値をデフォルトの1万件に戻せるようになることを願っています。

そのおかげでデータベースの最適化についていくつか学ぶことができました。それもボーナスですね。:slight_smile:

「いいね！」 5
10

おっしゃることは理解できますが、トピックを年ごとに分割するのは難しい面もあると認めざるを得ません。特に、人物に関する会話が多数ある場合です。

例えば、トランプ氏一般に関するトピックや、米国一般に関するトピックを考えてみてください。当フォーラムでは、元クラブ会長に関するトピック、現会長に関するトピック、各サッカーチームの選手に関するトピックがそれぞれ存在します。ご想像の通りです。他のトピックは季節ごとに分割しやすいですが、こうしたトピックはそうはいきません。不可能ではありませんが、非常に非現実的です。

11

トランプ氏全般や米国全般についてのカテゴリを想像してみてください。
誰も1つのトピックを10,000件以上の投稿を最初から最後まで読み通すことはありません。絶対にありません。ある時点で息を整えて、新たに始めることができます。これらのトピックは議論というよりはむしろチャットに近いもので、昨日の出来事さえもほとんど誰も読んでおらず、ましてや先週、先月、あるいは昨年のことはなおさらでしょう。

「いいね！」 3
12

はい、しかしこれに対する私の答えは

480×270 1.1 MB

…つまり、あなたは「理由」のために自ら相当な苦痛を招くことを選んでいるということです。

「いいね！」 5
13

これは、投稿ページを取得するクエリを模倣したデータエクスプローラのクエリです。

-- [params]
-- int :topic_id = 107216
-- int :offset = 10000

SELECT "posts"."id" FROM "posts" 
WHERE ("posts"."deleted_at" IS NULL) 
AND "posts"."topic_id" = :topic_id
AND "posts"."post_type" IN (1,2,3) ORDER BY "posts"."sort_order" ASC LIMIT 20 
OFFSET :offset

通常のトピックの例:

Limit  (cost=1911.35..1915.38 rows=1 width=8)

巨大なトピックの例:

Limit  (cost=37475.88..37550.83 rows=20 width=8)
「いいね！」 4
14

:+1:

皆さんを信じています。ただ、ユーザーがこのように慣れ親しんでいるため、そこまでの移行には少し時間がかかるかもしれませんが、実現可能です。

これに関連して、先ほど @codinghorror の投稿（Natural breakpoints or "chapters" for long topics? - #53 by codinghorror つのトピック内で閲覧や返信をしながら、一連のトピックをまとめて可視化できる素晴らしい解決策になると思いました。

15

誤解しないでください。私がこの作業を行ったのは、皆様を説得するためではなく、パフォーマンスについて不平を言っている12 万を超える投稿トピックを持つクライアントを納得させるためなのです！

これが皆様のお力にもなればと願っています。頑張ってください。:wink:

:clinking_glasses:

「いいね！」 3
16

とても役立ちました！共有ありがとうございます！

post_timings テーブルを整理するための具体的な近況の計画はありますが、メガトピックは今後何年も何年も大きな痛みの原因となり続けるでしょう。

:warning: また、約 1 年前に @tgxworld さんが、メガトピックに関連する作業量を全体的に削減するために素晴らしい作業を行ってくれたことを覚えておいてください。これにより、これらのトピックが それほど 痛みを与えないように、実質的に「省電力モード」に切り替わりました。

しかし、自分をだまさないでください：メガトピックは依然として 強烈に 襲ってきます。:boom::boxing_glove:

「いいね！」 5
17

推奨事項に従い、他の質問も検討中です（post_timings テーブルについて開発中であることを承知しています）。トピックサイズのデフォルト設定を復元する方向で進めております（自分の無知をお詫びしつつ、なぜそうしないのかと）。

この状況を踏まえ、以下の質問にお答えいただけますでしょうか：

  1. 設定を復元すると、既存のトピックは閉鎖され、新しいトピックが作成されます。しかし、そうした古い大規模トピックの存在は、サイト全体にとって危険でしょうか？つまり、それらを X 回に分割して小さなトピックにするべきなのか、それともアクティブでなければ問題ないのでしょうか？

  2. @Paracelsus さんがユーザーの利便性について提起した議論を拝見しました。そこで、“最大トピックサイズにより閉鎖されたトピックを自動で継続する” という設定を追加することは可能でしょうか？具体的には、メガトピックが自動的に閉鎖された際、同じ著者・同じタイトル（末尾に番号を付けるなど）で、内容が前のトピックへのリンクのみとなる新しいトピックを自動生成し、かつ閉鎖されたトピックにも新しいトピックへのリンクを追加するといった機能です。

やや複雑で、全員に必要ではないかもしれませんが（そのためオプション設定として提案しています）、トラフィックの多いサイトや重要なトピックを持つサイトには有用かもしれません。ご意見をお聞かせください。

「いいね！」 1
18

それは、「タバコがなくなったら自動的に新しい1箱を買ってあげて、喫煙を奨励すべきか？」と尋ねるようなものです :wink:

多くのトラフィックが流れ込まない限り、危険ではないはずです。閉じられているのであれば、そうなるべきでしょう。まずは様子を見てみましょう。アクティブなメガトピックからの「出血」を止めることが最初のステップですので、あなたは正しい方向に進んでいます :+1:

「いいね！」 3
19

追伸です。現在は、これらの超大規模トピックを 1 万件ずつのチャンクに分割して処理しようとしています。しかし、システムはどうやらこの戦略に対応してくれないようです：

8000 件以上の投稿を一度に選択して新しいトピックに移動させると、「502 Bad Gateway」エラーが発生します（より少ない件数での試行はしていません）。容量を増やす方法や、これを実現するための別のより良い方法はありませんか？@codinghorror @pfaffman

20

解決策は Rails コンソールで実行することですが、その方法がすぐにわかりません。

以下のような感じですが。

old_topic=1
new_topic=2
Posts.where(topic_id: old_topic).where("post_number > 10000 and post_number < 20000").update_all(topic_id: new_topic, post_number=...)

しかし、新しい投稿番号を作成するにはループに入れる必要があるかもしれません。必ずステージングサイトで解決策をテストしてください。何か失敗すると、大問題になります。

それでも方法がわからない場合は、Marketplace に投稿する必要があります。しかし、誰も古い投稿を読まないでしょうから、単に閉じて大きく残すか、SEO 価値があると思わなければ削除するかリストから外すのが良いでしょう。

「いいね！」 1