AP-verwerking trekt forum naar beneden?

Hi @angus, I can't be certain about what is actually happening, which needs an admin and knowledgeable person with the ActivityPub plugin, but I observe that this forum becomes slow or even unreachable at times and it looks to be related somehow to posts that are being federated.

Notified about that in this post, saw it happening yesterday after @silverpill tooted this reply, and I got "503 Gateway timeout" from NGINX which I think may relate to this post.

3 likes

Ik merkte ook dat SH niet meer reageert als ik een antwoord publiceer. Dit komt doordat antwoorden naar veel andere servers worden gestuurd, die allemaal tegelijkertijd de antwoordboom gaan laden.

Sorry daarvoor

3 likes

Als dit het geval is, dan is het in feite een "thundering herd"-probleem, vergelijkbaar met hoe linkvoorbeelden problemen kunnen veroorzaken. De oplossing hiervoor is dat software moet stoppen met het automatisch ophalen van bronnen die mogelijk nooit worden gezien, en in plaats daarvan gebruik moet maken van "lazy loading"-strategieën die op aanvraag worden uitgesteld.

2 likes

Hallo jongens, ik zal hier binnenkort nader naar kijken, hopelijk morgen.

3 likes

Ik heb mijn plugin uitgeschakeld vanwege de problemen die ik heb ondervonden. Ik heb veel verzoeken ontvangen om te stoppen, afkomstig van dezelfde bron-instantie of vele andere instanties die hetzelfde type verzoek doen zonder enige vertragingslimiet. Sorry, maar dit is vreemd, constant verzoeken en mijn server overspoelen is teveel.

angus:

HĂ© jongens, ik zal hier binnenkort nader naar kijken, hopelijk morgen.

Ik wil geen druk uitoefenen, en het is misschien nu een ongemakkelijk moment in de zomervakantieperiode, maar als je de gelegenheid hebt om je in het probleem te verdiepen, zou dat geweldig zijn. Op dit moment kan een enkele federated post het forum voor een bepaalde tijd erg traag maken, en een enkele post + postbewerking kan het forum ertoe brengen dat het nginx-foutschermen aan bezoekers toont.

Hallo allemaal, als dit ernstige problemen veroorzaakt, wil ik opmerken dat er al een aantal tools in de plugin zitten die een community-beheerder kan gebruiken voor dit soort scenario’s.

  1. Er is uitgebreide logging, inclusief object logging, die je kunt gebruiken om de bron van problematische actoren te achterhalen.

    • activity_pub_verbose_logging
    • activity_pub_object_logging
  2. De inbox en object retrieval hebben rate limiting en site-instellingen die je kunt gebruiken om de snelheid waarmee verzoeken worden gedaan te regelen.

    • activity_pub_rate_limit_post_to_inbox_per_minute
    • activity_pub_rate_limit_get_objects_per_minute
  3. Er zijn site-instellingen die je kunt gebruiken voor allowlist en blocklist van domeinen.

    • activity_pub_allowed_request_origins
    • activity_pub_blocked_request_origins
  4. Er zijn beheerdersacties die je kunt gebruiken om volgers van problematische volgers te “weigeren”.

Bovendien zal de hoeveelheid activiteit die een server aankan relatief zijn aan de middelen van een server. Iets waar ik geen zicht op zal hebben.

@aschrijver Ik zou beginnen met de middelen. Wat zijn de middelen van de server? Wat wordt er precies overbelast? Ik kan socialhub.activitypub.rocks op dit moment helemaal niet laden. Ik vermoed dat er een fundamenteler probleem is met het resourcegebruik.

Dan zou mijn tweede vraag zijn waar de verzoeken vandaan komen? Dit kun je achterhalen met de logs. Voeg vervolgens eventuele domeinen toe waar je veel verzoeken van krijgt aan activity_pub_blocked_request_origins.

Als we die bestaande middelen eerst hebben gebruikt en we nog steeds prestatieproblemen zien, dan kunnen we naar andere mogelijke oorzaken kijken.

2 likes

Ok, SocialHub loaded, I fired up the logs and the culprit seems relatively clear.

I’d suggest adding mastodon.sdf.org to the blocklist and sending a note to their admins that they’re spamming socialhub.

*edit It seems another issue was that signed requests had been disabled. I’ve done the following:

  1. Set Activity pub require signed requests to true.
  2. Set Activity pub blocked request origins to mastodon.sdf.org.

Let’s see if the issues persist.

Bedankt voor je snelle reactie, @angus. Ik ben slechts een gewoon lid van dit forum, maar dit lijkt nuttige informatie te zijn voor @how of andere forumbeheerders om te onderzoeken.

Geen zorgen. Ik vermoed dat het simpelweg inschakelen van ondertekende verzoeken en het toevoegen van mastodon.sdf.org aan de blokkeerlijst alles is wat nodig is.

1 like

It should block everywhere. It acts as a DDOS-agent. Amount of requests it does is totally horrible.

Moet ik mastodon.sdf.org blokkeren? Het lijkt een legitieme bron, maar misschien is hun configuratie problematisch? Hoe dan ook, indien nodig, moet ik het kunnen doen.

angus:

Ik kan op dit moment niet eens socialhub.activitypub.rocks laden. Ik vermoed dat er een fundamenteler probleem is met het gebruik van bronnen.

Ja, de VPS is klein. Ik zou hem kunnen upgraden naar iets krachtigers.