Testkriterien
Jede Prüfung arbeitet dieselben festen Kriterien ab. Hier steht, was bei einer Anwendung getestet wird und wie das Ergebnis bewertet wird. Der Bericht zu jedem Testlauf zeigt alle Kriterien einzeln – auch die, die in Ordnung sind.
1. Ampel-Bewertung
Jedes Kriterium bekommt eines von vier Ergebnissen. Aus allen Ergebnissen einer Anwendung entsteht die Ampel.
Ergebnis-Stufen
KritischKritisch – die Anwendung ist nicht benutzbar oder der Zugang funktioniert nicht.
SchwerSchwer – die Anwendung läuft, hat aber einen deutlichen Mangel.
LeichtLeicht – ein Hinweis oder eine Kleinigkeit, die den Betrieb nicht stört.
In OrdnungIn Ordnung – das Kriterium ist erfüllt.
Ampel
Rot – mindestens ein kritischer Befund. Löst sofort eine Alarm-Nachricht aus.
Gelb – mindestens ein schwerer Befund, kein kritischer.
Grün – keine kritischen oder schweren Befunde, auch wenn leichte Hinweise dabei sind.
2. Frontend
Die Adresse der Anwendung wird wie von einem normalen Besucher aufgerufen. Bleibt die Antwort länger als 7 Sekunden aus, gilt die Prüfung als Zeitüberschreitung.
Erreichbarkeit
Antwortet die Startseite, und mit welchem Status?
KritischKeine Antwort, Zeitüberschreitung oder Server-Fehler (5xx).
SchwerSeite antwortet mit einer Fehlermeldung (4xx).
In OrdnungSeite ist erreichbar.
Ladezeit
Wie lange dauert es, bis die Startseite vollständig angekommen ist?
SchwerÜber 4000 ms.
LeichtZwischen 2000 und 4000 ms.
In OrdnungUnter 2000 ms.
Fehlerseite statt Anwendung
Der Anfang der Seite wird nach typischen Fehlermeldungen durchsucht („Application error", „502 Bad Gateway", „503 Service", „Page not found").
KritischEine solche Meldung steht dort – Besucher sehen keine Anwendung.
App-Skript lädt
Das Hauptskript der Seite wird zusätzlich gesondert geladen. Bleibt es aus, sehen Besucher eine leere Seite – auch wenn die Adresse selbst erreichbar war.
KritischSkript lädt nicht oder ist nicht erreichbar.
Mobilansicht (viewport)
Ist die Seite für Mobilgeräte aufgebaut? Gefehlt wird das viewport-Merkmal geprüft.
Schwerviewport fehlt – auf Mobilgeräten nicht brauchbar.
Seitentitel
LeichtDie Registerkarte zeigt keinen Text, weil ein Seitentitel fehlt.
Sprachangabe
LeichtDie Sprache der Seite ist nicht angegeben – Vorleseprogramme für Sehbehinderte können das nicht berücksichtigen.
Seitenbeschreibung
LeichtDie Kurzbeschreibung der Seite fehlt; Suchmaschinen zeigen dann einen willkürlichen Textausschnitt.
3. Sicherheit
Geprüft wird, ob Besucher verschlüsselt unterwegs sind und ob die Anwendung das auch von sich aus verlangt.
Verschlüsselte Verbindung
SchwerDie Anwendung ist über eine unverschlüsselte Adresse erreichbar – Eingaben wie Passwörter sind auf dem Weg mitlesbar.
HSTS-Header
LeichtDie Anwendung sagt Browsern nicht, dass sie künftig nur verschlüsselt aufgerufen werden soll.
4. Backend
Diese Kriterien zählen nur, wenn für die Anwendung eine Backend-Adresse und der dazugehörige öffentliche Schlüssel hinterlegt sind. Apps ohne eigenes Backend werden in diesem Punkt nur mit einem leichten Hinweis versehen.
Backend erreichbar
Der Gesundheits-Endpunkt des Backends wird aufgerufen und gemessen.
KritischBackend meldet einen Fehler oder ist nicht erreichbar.
SchwerBackend antwortet sehr langsam.
In OrdnungBackend antwortet schnell.
Backend-Konfiguration
LeichtEs sind keine Backend-Adresse und kein Schlüssel hinterlegt – der Hinweis ist keine Bewertung eines Fehlers.
5. Login
Hier wird der Zugang zu einem geschützten Bereich geprüft – entweder direkt am Backend oder, bei aktiviertem UI-Test, im echten Browser.
Login-Seite erreichbar
Die hinterlegte Login-Adresse wird aufgerufen.
SchwerDie Login-Seite antwortet mit einem Fehler oder ist nicht erreichbar.
In OrdnungLogin-Seite ist erreichbar.
Admin-Login am Backend
Mit den hinterlegten Zugangsdaten wird ein echter Anmeldeversuch am Backend ausgeführt. Nötig sind Backend-Adresse, öffentlicher Schlüssel und Zugangsdaten.
KritischAnmeldung wird abgelehnt oder ist nicht durchführbar.
In OrdnungAnmeldung erfolgreich.
Zugangsdaten
LeichtEs sind keine Zugangsdaten hinterlegt, sodass diese Prüfung ausfällt.
6. UI-Test im echten Browser
Für Anwendungen ohne eigenes Backend – oder zusätzlich zum Backend-Test – kann ein UI-Test eingeschaltet werden. Ein echter Browser öffnet dann die Login-Seite, trägt die hinterlegten Zugangsdaten ein und drückt den passenden Anmelde-Knopf. Knöpfe für Google, Apple oder Registrierungen werden dabei bewusst ausgelassen.
Anmeldung im Browser
Der Browser meldet sich mit den hinterlegten Zugangsdaten an und prüft anschließend, ob der geschützte Bereich erreicht ist.
KritischAnmeldung fehlgeschlagen. Der Bericht nennt die Zielseite und – falls vorhanden – die Meldung der Anwendung selbst.
In OrdnungAnmeldung erfolgreich.
Landung bei einer fremden Anmeldung
Rutscht der Test auf eine fremde Anmeldeseite (etwa Google oder Apple) statt auf den E-Mail/Passwort-Login, ist das kein Passwortfehler, sondern ein Problem der Test-Einstellung.
SchwerTest landet bei einer externen Anmeldung – Login-Adresse oder Anmeldeart prüfen.
Konsolen-Fehler
Alle Fehlermeldungen, die der Browser während des Tests anzeigt, einschließlich „Datei nicht gefunden (404)".
SchwerMindestens ein Konsolen-Fehler – der Bericht zeigt den ersten mit der genauen Adresse.
Fehlgeschlagene Aufrufe
Aufrufe, die der Browser nicht zu Ende führen konnte oder die vom Server mit einem Server-Fehler beantwortet wurden.
LeichtMindestens ein fehlgeschlagener Aufruf.
Voraussetzungen
LeichtUI-Test ist eingeschaltet, aber Zugangsdaten oder Login-Adresse fehlen – die Prüfung kann dann nicht laufen.
7. Ablauf und Ergebnisse
Alle aktiven Anwendungen werden nacheinander geprüft; die Ergebnisse jeder Anwendung werden gespeichert.
Wann geprüft wird
Automatisch einmal pro Woche, montags um 07:00 Uhr (deutsche Zeit). Zusätzlich jederzeit von Hand über „Jetzt prüfen", „Prüfen & Bericht senden" oder „Einzeln prüfen".
Was mit den Ergebnissen passiert
Die Ampel erscheint auf der Übersichtsseite. Der vollständige Bericht mit allen Kriterien ist unter „Berichte" zu jedem Testlauf geöffnet und ausgedruckt werden. Der Wochenbericht geht per E-Mail an die eingetragene Adresse. Ein sofortiger Alarm bei einer roten Ampel per SMS ist vorgesehen, aber derzeit deaktiviert – dieses Feature wird zu einem späteren Zeitpunkt wieder aktiviert.
Reihenfolge der Bewertung
Eine Anwendung ist rot, sobald auch nur ein Kriterium kritisch ist. Ohne kritischen Befund ist sie gelb, sobald ein Kriterium schwer ist. Alles andere bleibt grün.
Fragen zu den Kriterien? Kontakt