Technologie
KI-Crawler: Google will Robots.txt für alle Anbieter zum Standard machen
Die Robots.txt wird von den meisten KI-Crawlern geflissentlich ignoriert und soll deshalb zum verpflichtenden Standard werden. ( KI , Google )
Schlagzeilen quer durchs Spektrum
- «KI-Crawler: Google will Robots.txt für alle Anbieter zum Standard machen» — Golem (mitte)