CalectorBot
CalectorBot ist der Abrufer von Calector, einem Veranstaltungskalender aus der Schweiz. Er liest öffentliche Programm- und Kalenderseiten von Veranstaltern, damit deren Anlässe in Calector gefunden werden — jeder Eintrag führt mit einem Link zurück auf die Seite, von der er stammt.
Woran Sie ihn erkennen
Jeder Abruf trägt diesen Namen:
CalectorBot/0.1 (+https://calector.com/bot; event aggregator)
und kommt von genau einer Adresse: 83.228.243.100.
Dieselbe Angabe maschinenlesbar:
calector.com/bot/ips.json. Ein Abruf,
der diese Seite nennt, aber von einer anderen Adresse kommt,
stammt nicht von uns.
Was er liest und was daraus wird
- Nur Seiten, die eine Nutzerin oder der Betreiber als Veranstaltungsquelle eingetragen hat — die Programmseite und die Detailseiten, die sie verlinkt. Kein Durchsuchen ganzer Websites, kein Login, keine Formulare.
- In Calector erscheinen Titel, Datum, Ort, ein kurzer Auszug und der Link zum Original. Bilder werden verlinkt, nicht kopiert.
- Trägt eine Seite keine maschinenlesbaren Termine (Kalender-Feed, strukturierte Daten), liest ein Sprachmodell sie aus dem Seitentext. Wir trainieren keine Modelle mit den Inhalten.
Wie er sich verhält
-
Er befolgt
robots.txtunter dem NamenCalectorBot— für jede Seite, die er liest. Ausgenommen sind einzig Kalender-Dateien (.ics), die zum Abonnieren veröffentlicht sind, und die Bilder einer Seite, die er lesen durfte. - Eine Quelle wird einmal täglich gelesen, frühmorgens; dazwischen nur, wenn jemand ihre Adresse gerade in der App teilt.
-
Zwischen zwei Seiten derselben Quelle macht er eine Pause. Ein
Crawl-delayin Ihrerrobots.txthält er ein (bis 30 Sekunden) und liest dann entsprechend weniger Seiten pro Lauf — höchstens 120 Detailseiten. Unveränderte Seiten fragt er mitIf-None-Match/If-Modified-Sinceab und lädt sie nicht erneut. - Prüfaufgaben (Challenge, CAPTCHA) löst er nie; eine Seite, die ihn abweist, bleibt ungelesen.
-
Einzelne Auslieferungsnetze weisen jeden Abruf ab, der sich als
Bot zu erkennen gibt, obwohl die
robots.txtder Seite ihn erlaubt. Auf eine solche Antwort (403 oder 429 ohne Wartezeit) fragt er genau einmal mit den Kopfzeilen eines Browsers nach — nie bei Seiten hinter Cloudflare, und dierobots.txtgilt für ihn auch dann.
So sperren Sie ihn aus
Zwei Zeilen in Ihrer robots.txt genügen:
User-agent: CalectorBot
Disallow: /
Er liest die Datei spätestens nach einer Stunde neu. Sollen bereits übernommene Einträge verschwinden oder korrigiert werden, schreiben Sie uns — wir reagieren rasch.
Kontakt
In English
CalectorBot is the fetcher of Calector, an event calendar from Switzerland. It reads public programme and calendar pages of event organisers that a user or the operator has added as a source, and lists the events found there — title, date, place, a short excerpt and a link back to the original page.
It identifies itself as
CalectorBot/0.1 (+https://calector.com/bot; event aggregator)
and fetches from a single address, 83.228.243.100
(ips.json). It obeys
robots.txt under the name CalectorBot,
reads a source once a day, honours Crawl-delay (up to
30 seconds) and pauses between pages without one, and never
solves a challenge or CAPTCHA. A few delivery networks refuse anything
that names itself a bot although the site's
robots.txt allows it; on such an answer (403 or 429
without Retry-After) it asks once more with a
browser's headers — never at sites behind Cloudflare, and still
bound by robots.txt. To keep it out, disallow
CalectorBot in your robots.txt or write
to hello@calector.com.