Haben Sie KI-basierte Spam-Probleme?

Gemeinschaft
10

Tatsächlich bin ich gerade auf einen Benutzer gestoßen, der durchgerutscht ist und mit ChatGPT oder einer anderen KI postet. Es könnte noch mehr Spam-Konten geben, die ich übersehen habe.

Einige Ideen, wie man dagegen vorgehen kann:

  • Erstellen Sie eine Datenbank mit VPN-Anbietern. Die IP-Adresse dieses Benutzers stammt von „M247 Europe SRL“, einem VPN-Dienstleister. Ich hätte mir schon immer eine Art Benachrichtigung gewünscht, dass ein neues Konto ein VPN nutzt. Im Moment muss ich das manuell machen.
  • Verfolgen Sie die Lesezeit, die besuchten Tage, die gelesenen Themen/Beiträge. Dieser Benutzer hat 8 Minuten auf der Website gelesen, aber 6 Kommentare gepostet und am Tag seiner Registrierung nur 3 Mal die Seite besucht. Der Benutzer ist tatsächlich immer noch TL0, da er nichts anderes getan hat, als Kommentare zu posten.
  • Ich habe weitere Ideen in den Kommentaren auf dieser Seite aufgeschrieben.

Ich frage mich, ob es möglich ist, Benutzer grob nach dem Verhältnis von auf der Website verbrachter Zeit zu geschriebenen Wörtern zu klassifizieren, plus andere Signale wie VPN, eingefügter Inhalt usw. Verdächtige Konten könnten zur Überprüfung markiert werden.

Bearbeitung: Diese schnelle Data Explorer-Abfrage hat ein paar weitere aufgedeckt, obwohl einige davon bereits gesperrt waren.

SELECT
    u.id,
    u.created_at,
    u.username,
    u.trust_level,
    us.time_read,
    us.days_visited,
    us.topics_entered,
    us.post_count,
    us.topic_count
FROM users u
LEFT JOIN user_stats us
ON us.user_id = u.id
WHERE u.trust_level < 1
AND u.created_at > '2023-01-01'
AND us.time_read < 1000 -- Sekunden
AND us.post_count > 1
3 „Gefällt mir“