Dr. Ina Schaefer Software Systems Engineering
Technische Universität Braunschweig
(Folien von Prof. B. Rumpe und Dr. A. Herrmann)
Qualitätsmanagement
Software Engineering 1 WS 2011/2012
Dr. Ina Schaefer Software Engineering 1 Seite 2
§ Qualität: Gesamtheit von Eigenschaften und Merkmalen eines Produkts oder einer Tätigkeit, die sich auf deren Eignung zur Erfüllung gegebener Erfordernisse bezieht [DIN 55350, Teil 11]
§ Achtung: bezieht sich auf Produkt und Prozess.
§ Achtung: Qualitäts-Anforderungen ändern sich mit der Zeit!
§ Achtung: Qualität muss gegenüber Kosten und Zeit abgewogen werden
Was ist Qualität?
Dr. Ina Schaefer Software Engineering 1 Seite 3
§ Funktionalität • Angemessenheit • Sicherheit • Genauigkeit der
Berechnung • Interoperabilität • Konformanz zu
Standards § Zuverlässigkeit
• Reife • Fehlertoleranz • Wiederherstellbarkeit
§ Benutzbarkeit • Verständlichkeit • Erlernbarkeit • Bedienbarkeit
§ Effizienz • Zeitverhalten • Verbrauchsverhalten
§ Änderbarkeit • Analysierbarkeit • Modifizierbarkeit • Stabilität • Prüfbarkeit
§ Übertragbarkeit • Anpassbarkeit • Installierbarkeit • Konformanz zu
Standards • Austauschbarkeit
Qualität nach ISO9216
Dr. Ina Schaefer Software Engineering 1 Seite 4
Benutzer- erwartungen
Anforderungsdokument Code .....
Verifikation: haben wir es richtig gemacht?
Validierung: haben wir das Richtige gemacht?
Verifikation & Validierung
Dr. Ina Schaefer Software Engineering 1 Seite 5
Übersicht
• Konstruktive Qualitätssicherung • Qualität von Prozessen • Reifegradmodelle
• Analytische Qualitätssicherung • Statische Tests (Reviews) • Dynamische Tests
• Begriffe und Grundsätze • Testprozess • Testmethoden • Testarten (Unit-, Integrations-, System-, Akzeptanztest)
Dr. Ina Schaefer Software Engineering 1 Seite 6
Produktqualität und Prozessqualität
§ Software: • Kaum Qualitätsmängel durch Massenproduktion • Qualitätsmängel im Herstellungsprozess begründet
§ Qualitätsmanagement: • Organisatorische Maßnahmen zur Prüfung und Verbesserung
der Prozessqualität • Beachtung von internen Kunden-/Lieferantenbeziehungen
§ Konstruktive Qualitätssicherung: Qualität des Prozesses
§ Analytische Qualitätssicherung: Qualität des Produkts
Dr. Ina Schaefer Software Engineering 1 Seite 7
ISO 9000 § Internationales Normenwerk
• ISO 9000: Allgemeiner Leitfaden • ISO 9000-3: Leitfaden zur Anwendung von ISO 9001 auf Software
• ISO 9001: Modelle zur Darlegung der Qualitätssicherung insbesondere in Entwurf und Entwicklung
§ Allgemeingültige Forderungen an die Organisation eines Unternehmens: • Regelung von Zuständigkeiten • Erstellung und korrekte Verwaltung wesentlicher Dokumente • Existenz eines unabhängigen Qualitätssicherungs-Systems
§ Zertifizierung: • durch unabhängige (zertifizierte) Prüforganisationen • Audit, Prüfsiegel
§ ISO 9000 prüft nicht die Qualität des Produkts, sondern die Qualität der Organisation !
Dr. Ina Schaefer Software Engineering 1 Seite 8
Reifegradmodelle: Ziele und Nutzen
§ messen Reife des gesamten Software-Entwicklungsprozesses
§ entdecken Schwachstellen und Verbesserungspotenzial
§ schlagen Maßnahmen zur Qualitätsverbesserung vor
§ messen die Wirkung dieser Maßnahmen
§ helfen bei Bewertung von Lieferanten bei Auftragsvergabe
Dr. Ina Schaefer Software Engineering 1 Seite 9
Reifegradmodelle: Beispiele
§ CMM
§ CMMI (Weiterentwicklung von CMM, quasi V2.0)
§ BOOTSTRAP (Erweiterung und Anpassung von CMM für Europa)
§ SPICE/ ISO 15504 (Weiterentwicklung von Bootstrap)
§ DIN ISO 9000
§ TQM = Total Quality Management
Dr. Ina Schaefer Software Engineering 1 Seite 10
Capability Maturity Model (CMM)
§ Entwickelt 1987 von Software Engineering Institute (SEI), Vorläufer Mutter vieler späterer Modelle
§ 1991 CMM Version 1.0, 1993 CMM V1.1
§ 2003 CMMI = Capability Maturity Model Integrated, löst CMM ab
§ Fragebögen mit ja/nein-Fragen
§ 5 Reifegrad-Stufen
§ Um Stufe x+1 zu erreichen, müssen alle Bedingungen von Stufe x erfüllt sein.
Dr. Ina Schaefer Software Engineering 1 Seite 11
Capability Maturity Model (CMM)
Stufe 1: Initialer Prozess Stufe1: Initial
Stufe 2: Wiederholbar
Stufe 3: Definiert
Stufe 4: Gesteuert
Stufe 5: Optimierend
Kosten, Zeit, Qualität unvorhersehbar
Terminkontrolle, aber Kosten und Qualität
schwanken
Kosten und Termine zuverlässig, aber
Qualität schwankend
Kontrolle über Produktqualität
Kontrolle über Prozessqualität
Dr. Ina Schaefer Software Engineering 1 Seite 12
5 Stufen in CMMI
1. Ad hoc (Initial) • Keine formelle Planung und Kontrolle • Kein oder schlechtes Konfigurationsmanagement
2. Wiederholbar (Repeatable) • Etabliertes Projektmanagement • Abwicklung von Standardprojekten wird beherrscht. • bei neuartigen Projekten größere Risiken • Prozess ist abhängig von den Personen, die ihn durchführen. • Keine etablierten Maßnahmen zur Verbesserung des Prozesses
3. Definiert (Defined) • Der Prozess ist klar definiert und läuft definitionsgemäß ab. • Es existiert eine Gruppe mit der Aufgabe, den Software Engineering
Prozess zu lenken und zu verbessern.
Dr. Ina Schaefer Software Engineering 1 Seite 13
4. Geführt (Managed) • Eine Mindestmenge an Qualitäts- und Produktivitätsmessgrößen wird
erhoben und ausgewertet. • Es gibt eine Datenbank, in der alle relevanten Daten über den Prozess
abgelegt werden und Mittel zur Pflege und Auswertung dieser Daten.
5. Optimierend (Optimizing) • Etablierter Regelkreis für Messung und Verbesserung des Prozesses • Datenerhebung und Erkennung von Schwachstellen weitgehend
automatisiert. • Durchgeführte Maßnahmen aus dem erhobenen Datenmaterial
begründet. • Etablierte Ursachenanalyse für alle Fehler und zugehörige
Fehlerpräventionsmaßnahmen.
5 Stufen in CMMI (2)
Dr. Ina Schaefer Software Engineering 1 Seite 14
Analytische Qualitätssicherung
§ Ziel: Überprüfen, ob Produkt die Aufgabenspezifikation erfüllt
§ Prüfmethoden: • Beweis (mathematischer Nachweis, nur bei einfachen
Programmen händisch möglich, ansonsten komplexe Beweis-Werkzeuge)
• Test (Ausprobieren für eine sorgfältig ausgewählte Menge von Eingaben)
• Inspektion (systematisches Durchlesen) • Metriken (automatische Bestimmung von Charakteristika)
Dr. Ina Schaefer Software Engineering 1 Seite 15
Statische und Dynamische Tests
§ Statische Tests: Überprüfung nicht-ausführbarer Entwicklungs- artefakte (Dokumente) durch Inspektionen und Reviews
§ Dynamische Tests: Überprüfung ausführbarer Artefakte (Prototypen, Programmcode) durch Testdaten
Dr. Ina Schaefer Software Engineering 1 Seite 16
Test-Arten im V-Modell
Reviews, Prototyp der Oberfläche
Reviews, Konsistenzprüfungen, Machbarkeitsstudien
Code-Reviews, Test-Planung
Dr. Ina Schaefer Software Engineering 1 Seite 17
Qualitätssicherung für Analyse und Entwurf
§ Hohe Bedeutung früher Phasen für Produktqualität ! • Deshalb: Alle Dokumente frühzeitig überprüfen ("Validation").
§ Techniken: • Anforderungskatalog-Begutachtung
• Echte Benutzer einbeziehen • Anforderungskatalog auf Vollständigkeit und Korrektheit prüfen
• Use-Case-Szenarien • Echte Benutzer einbeziehen • "Funktionsfähigkeit" der abstrakten Modelle demonstrieren
• Prototyping • Prototyp auf der Basis der Analyse/Entwurfs-Dokumente • Echte Benutzer einbeziehen • Vorgezogener Akzeptanztest
• Abgleich des Entwurfs mit Use-Cases/Anforderungskatalog • Erste verifizierende Tätigkeiten
Dr. Ina Schaefer Software Engineering 1 Seite 18
Begutachtung (Review) § Produkt wird von Expertengremium begutachtet
• Anwendbar auf fast alle Phasen der Entwicklung § Was wird begutachtet?
• Genau definiertes Dokument (Art, Status, Prozesseinbindung) • Teil der Gesamtplanung des Projekts (Termin)
§ Wer begutachtet? • Teammitglieder (Peer-Review) • Externe Spezialisten • Echte Benutzer • Moderator, Manager
§ Wie läuft die Begutachtung ab? • Einladung • Vorbereitung, Sammlung von Kommentaren • Begutachtungssitzung(en), Protokolle • Auswertung und Konsequenzen (Wiederholung,
Statusänderung)
Dr. Ina Schaefer Software Engineering 1 Seite 19
Regeln für wirkungsvolle Begutachtung
§ "Checklisten" für die Gutachter vorbereiten • z.B. "Enthält das Dokument alle laut Firmenstandard
vorgesehenen Informationen?" - "Gibt es für jede Klasse eine informelle Beschreibung?" - "Sind Kardinalitäten im Klassendiagramm vollständig und korrekt?" - "Sind alle Klassen kohärent?" - ...
§ Das Dokument wird begutachtet, nicht die Autoren! § Richtige Vorkenntnisse der Gutachter sind wesentlich. § Die Rolle des Moderators ist anspruchsvoll:
• Vermittlung in persönlichen Konflikten und Gruppenkonflikten • Fachlicher Gesamtüberblick
§ Das Ziel ist Einigkeit, nicht ein Abstimmungsergebnis! § Ergebnisse von Begutachtungen müssen Auswirkungen haben. § Wesentliche Beiträge von Gutachtern müssen Anerkennung finden. § Begutachtung ist auch anwendbar auf Programm-Code
(Code-Inspektion).
Dr. Ina Schaefer Software Engineering 1 Seite 20
Dynamisches Testen: Begriffe § Testgegenstand (Testling, Prüfling):
Programm bzw. Komponente, die zu testen ist § Testfall:
Satz von Eingabedaten, der die (vollständige) Ausführung des Testgegenstands bewirkt
§ Testdaten: Daten, die für den Testfall benötigt werden
§ Testtreiber: Rahmenprogramm für Ausführung von Tests
§ Attrappe (Stub, Dummy): Ersatz für ein (noch) nicht vorhandenes Unterprogramm
§ Regressionstest: Nachweis, dass eine geänderte Version des Testgegenstands früher durchgeführte Tests erneut besteht
§ Alphatest: Test experimenteller Vorversion durch Benutzer § Betatest: Test funktional vollständiger Software durch Benutzer
Dr. Ina Schaefer Software Engineering 1 Seite 21
Fehlfunktionen § Fehlfunktion (fault): Unerwartete Reaktion des Testlings
§ Unterscheidung zwischen dem fehlerhaften Code (error, bug) und dem Auftreten des Fehler (fault):
• Ein „fault“ kann aufgrund mehrerer „bugs“ auftreten. • Ein „bug“ kann mehrere „faults“ hervorrufen.
§ Arten von Fehlfunktionen: • Falsches oder fehlendes Ergebnis • Nichtterminierung • Unerwartete oder falsche Fehlermeldung • Inkonsistenter Speicherzustand • Unnötige Ressourcenbelastung (z.B. von Speicher) • Unerwartetes Auslösen einer Ausnahme, "Abstürze" • Falsches Abfangen einer Ausnahme
Dr. Ina Schaefer Software Engineering 1 Seite 22
Grundsätze des Testens
Nach: ISTQB Syllabus Certified Tester Foundation Level § Grundsatz 1
Vollständiges Testen - Austesten - ist nicht möglich.
§ Grundsatz 2 Mit Testen wird die Anwesenheit von Fehlerwirkungen nachgewiesen. Dass keine Fehlerzustände im Testobjekt vorhanden sind, kann durch Testen nicht gezeigt werden.
„Program testing can be used to show the presence of bugs, but never to
show their absence!“ Edsger Dijkstra
Dr. Ina Schaefer Software Engineering 1 Seite 23
Grundsätze des Testens (2)
§ Grundsatz 3 Testen ist keine späte Phase in der Softwareentwicklung, es soll damit so früh wie möglich begonnen werden. Durch frühzeitiges Prüfen (z.B. Reviews) werden früher Fehler(zustände) erkannt und somit Kosten gesenkt.
§ Grundsatz 4 Fehlerzustände sind in einem Testobjekt nicht gleichmäßig verteilt, vielmehr treten sie gehäuft auf. Dort wo viele Fehlerwirkungen nachgewiesen wurden, finden sich vermutlich auch noch weitere.
Dr. Ina Schaefer Software Engineering 1 Seite 24
Grundsätze des Testens
§ Grundsatz 5 Tests nur zu wiederholen, bringt keine neuen Erkenntnisse. Testfälle sind zu prüfen, zu aktualisieren und zu modifizieren.
§ Grundsatz 6 Testen ist abhängig vom Umfeld. Sicherheitskritische Systeme sind intensiver zu testen als beispielsweise der Internetauftritt einer Einrichtung.
§ Grundsatz 7 Ein System ohne Fehlerwirkungen bedeutet nicht, dass das System auch den Vorstellungen der späteren Nutzer entspricht.
Dr. Ina Schaefer Software Engineering 1 Seite 25
Pareto-Prinzip
§ Fenton/Ohlsson 2000 und andere empirische Untersuchungen: • 20 % der Module sind verantwortlich für 60 % der Fehler • Diese 20 % der Module entsprechen 30 % des Codes
§ Testmuster: "Scratch'n sniff" • Fehlerhafte Stellen deuten oft auf weitere Fehler in der Nähe hin.
% der Fehlfunktionen
% der betroffenen Module 20 40 60 80
100
30 60 90
Dr. Ina Schaefer Software Engineering 1 Seite 26
Testplanung und Testkonzept § Testen ist aufwändig, deshalb ist gute Planung nötig! § Testplanung sollte bereits mit der Anforderungsanalyse beginnen
und im Entwurf verfeinert werden (V-Modell, Test-First-Ansatz)!
§ Typische Bestandteile eines Testkonzepts: • Phasenmodell des Testprozesses • Zusammenhang zur Anforderungsspezifikation
• z.B. dort festgelegte Qualitätsziele • Zu testende Produkte • Zeitplan für die Tests • Abhängigkeiten der Testphasen • Aufzeichnung der Testergebnisse • Hardware- und Softwareanforderungen • Einschränkungen und Probleme
Dr. Ina Schaefer Software Engineering 1 Seite 27
§ Testspezifikation: Testfälle, Priorisierung, Testdaten und Soll-Ergebnisse
§ Testplanung: Ressourcen, Aufwand, Termine
§ Testdurchführung: sowie Testprotokollierung und Meldung des Fehlers an den Entwickler (Fehlerverwaltung)
§ Testmanagement: Prüfen der Testberichte und Entscheidung über Testende
Testprozess
Dr. Ina Schaefer Software Engineering 1 Seite 28
Details der Teststrategie
§ Pro Dokument und Entwicklungsergebnis • Festlegung der Testmethode • Festlegung des Abdeckungsgrades
§ Priorisierung der einzelnen Tests • Eintrittswahrscheinlichkeit eines Fehlers (z.B. häufig vom
Kunden genutztes Prüfobjekt, intern kritisches Prüfobjekt, komplexes Prüfobjekt)
• Fehlerschwere • Für Kunden: Schaden beim Auftreten bzw. Zufriedenheit • Für Hersteller: Größe des Behebungsaufwandes
• Priorität der Anforderungen
Dr. Ina Schaefer Software Engineering 1 Seite 29
Testfälle
§ Logischer Testfall: abstrakte Beschreibung eines Testfalls § Konkreter Testfall: Konkretisierung eines logischen Testfalls durch
Testdaten § Testlauf: Protokoll einer Durchführung eines konkreten Testfalls
Logischer Testfall Testlauf konkreter
Testfall 1 1..n 1 1..n
Dr. Ina Schaefer Software Engineering 1 Seite 30
Inhalt einer „Test case specification“: • Test case specification identifier • Test items • Input specifications • Output specifications • Environmental needs (hardware, software, others) • Special procedural requirements • Intercase dependencies
Testfallspezifikation
(nach „IEEE Standard for Software Test Documentation“)
Dr. Ina Schaefer Software Engineering 1 Seite 31
§ Testberichte: Welche Tests wurden mit welchem Ergebnis durchgeführt? • Testabdeckung = Anzahl der durchgeführten Tests / Anzahl
der durchzuführenden Tests • Anzahl der noch offenen Fehler • Priorisierung von Testfällen und Fehlern
§ Testendekriterium: Wann wird die QS beendet? • Alle Testfälle durchgeführt? • Alle Fehler behoben? • Alle schweren Fehler behoben? • Nimmt Fehlerfindungsrate ab? • Termin erreicht?/ Budget verbraucht?
Testberichte/ Testendekriterium
Dr. Ina Schaefer Software Engineering 1 Seite 32
Informationen pro Fehler: § Testfall, Testdurchführung, Eingabedaten und Ergebnis § Zuständiger Tester § Zuständiger Entwickler (für Fehlerbehebung) § Status
• Offen (von Tester entdeckt, Entwickler zuständig) • in Bearbeitung (durch Entwickler) • Behoben (durch Entwickler, Tester wieder zuständig) • Erledigt (=Bestätigung durch Tester)
§ Schwere. z.B.: • „schwer“ = Arbeit unmöglich + kein Workaround vorhanden • „mittel“ = Arbeit erschwert + Workaround vorhanden • „leicht“ = stört nicht beim Arbeiten)
Fehlerverwaltung
Dr. Ina Schaefer Software Engineering 1 Seite 33
Testarten
Akzeptanz- Test
Baustein- Test
Modul- Test
Integrations- Test
System- Test
Integration
Bausteintest (unit test): • Traditionell: Prozeduren • OO: Methoden Modultest: • Traditionell: Module • OO: Klassen Integrationstest: • OO: Pakete
Dr. Ina Schaefer Software Engineering 1 Seite 34
Testmethoden § Funktionaler Test (black box test):Testfallauswahl beruht auf
Spezifikation) • Äquivalenzklassentest, Grenzwerte, Test spezieller Werte • Zustandstest auf Spezifikationsbasis
§ Strukturtest (white box test, glass box test):Testfallauswahl beruht auf Programmstruktur • Kontrollflussorientierter Test
• Anweisungsüberdeckung, Zweigüberdeckung, Pfadüberdeckung • Datenflussorientierter Test: Definition/Verwendung von Variablen
§ Weitere Testmethoden (Beispiele) • Zufallstest ("monkey test") • Stress-, Lasttest
Dr. Ina Schaefer Software Engineering 1 Seite 35
Funktionaler Test (black box)
Funktionale"Spezifikation"
Testfälle"(Eingabedaten)"
Erwartete"Ausgabedaten"
Programm-"ausführung"
Ausgabe-"daten"
Vergleich"
Dr. Ina Schaefer Software Engineering 1 Seite 36
Äquivalenzklassentest
§ Äquivalenzklasse: • Teilmenge der möglichen Datenwerte der Eingabeparameter • Annahme: Programm reagiert für alle Werte aus der
Äquivalenzklasse prinzipiell gleich • Test je eines Repräsentanten jeder Äquivalenzklasse
§ Finden von Äquivalenzklassen: • Kriterien für Werte entwickeln und diese wo sinnvoll kombinieren • Zulässige und unzulässige Teilbereiche der Datenwerte • Unterteilung der zulässigen Bereiche nach verschiedenen
Ausgabewerten
Dr. Ina Schaefer Software Engineering 1 Seite 37
Äquivalenzklassentest: Beispiel
§ Kriterien für Äquivalenzklassen: • Kriterium 1A: a.length == 0 • Kriterium 1B: a.length > 0 • Kriterium 2A: k in a • Kriterium 2B: k nicht in a
§ Äquivalenzklassen / Testfälle: • drei Äq.-Klassen, da 1A und 2A nicht kompatibel • a == [], k == 17, result == undef. (1A, 2B) • a == [11, 17, 45], k == 17, result == 1 (1B, 2A) • a == [11, 23, 45], k == 17, result == -1 (1B, 2B)
int search (int[] a, int k) Vorbedingung: a.length >= 0 Nachbedingung: (result ≥ 0 ∧ a[result] == k) ∨ (result == –1 ∧ (¬∃ i . 0 ≤ i < a.length ∧ a[i] == k))
Dr. Ina Schaefer Software Engineering 1 Seite 38
Grenzwertanalyse und Test spezieller Werte
§ Grenzwerte: Randfälle der Spezifikation • Werte, bei denen "gerade noch" ein gleichartiges Ergebnis zum
Nachbarwert erzielt wird, bzw. "gerade schon" ein andersartiges • Beispiele:
• Ränder von Zahl-Intervallen • Schwellenwerte
§ Spezielle Werte: • Zahlenwert 0 • Leere Felder, Sequenzen und Zeichenreihen • Einelementige Felder, Sequenzen und Zeichenreihen • Null-Referenzen • Sonderzeichen (Steuerzeichen, Tabulator)
Dr. Ina Schaefer Software Engineering 1 Seite 39
Grenzwertanalyse: Beispiel
§ Weitere Kriterien für Äquivalenzklassen: • 3A: Element am linken Rand a[0]==k • 3B: Element am rechten Rand a.last==k • 3C: Element an keinem Rand ... • 4A: a einelementig a.length==1 • 4B: a nicht einelementig a.length!=1 • 5A: k ist 0 k==0 • 5B: k ist nicht 0 k!=0
§ Neue Testfälle:
• a == [17], k == 17, result == 0 (Kriterien 1B, 2B, 3A+B, 4A, 5B) • a == [11, 23, 0], k == 0, result == 2 (Kriterien 1B, 2B, 3B, 4B, 5A)
int search (int[] a, int k) Vorbedingung: a.length > 0 Nachbedingung: (result ≥ 0 ∧ a[result] == k) ∨ (result == –1 ∧ (¬∃ i . 0 ≤ i < a.length ∧ a[i] == k))
Dr. Ina Schaefer Software Engineering 1 Seite 40
Strukturtest (glass-box)
Programm-"Code"
Testfälle"(Eingabedaten)"
Funktionale"Spezifikation"
oder""Orakel""
Programm-"ausführung"
Ausgabe-"daten"
Vergleich"
Erwartete"Ausgabedaten"
Dr. Ina Schaefer Software Engineering 1 Seite 41
Überdeckungsgrad (coverage) § Maß für die Vollständigkeit eines Tests § Welcher Anteil des Programmtexts wurde ausgetestet? § Messung der Überdeckung:
• Instrumentierung des Programmcodes • Ausgabe statistischer Informationen
§ Planung der Überdeckung: • gezielte Anlage der Tests auf volle Überdeckung
§ Überdeckungsarten: • Anweisungsüberdeckung:
Anteil ausgeführter Anweisungen • Zweigüberdeckung:
Anteil ausgeführter Anweisungen und Verzweigungen • Pfadüberdeckung:
Anteil ausgeführter Programmablaufpfade § Hilfsmittel:
• Kontrollflussgraph
Dr. Ina Schaefer Software Engineering 1 Seite 42
Beispielprogramm: Binäre Suche
public static final int NOTFOUND = -1; // Binaere Suche auf Array a. // Annahme: a ist sortiert // Ergebnis ist NOTFOUND, wenn k nicht in A enthalten ist. // Ergebnis ist i falls a[i] gleich k ist. public static int binSearch (int[] a, int k) { int ug = 0, og = a.length-1, m, pos = NOTFOUND; while (ug <= og && pos == NOTFOUND) { m = (ug + og) / 2; if (a[m] == k) pos = m; else if (a[m] < k) ug = m + 1; else og = m - 1; }; return pos; }
Dr. Ina Schaefer Software Engineering 1 Seite 43
Binäre Suche - Kontrollflussgraph
public static final int NOTFOUND = -1;
public static int binSearch (int[] a, int k) { int ug = 0, og = a.length-1, m, pos = NOTFOUND; // 1 while (ug <= og && pos == NOTFOUND) { // 2 m = (ug + og) / 2; // 3 if (a[m] == k) // 4 pos = m; // 5 else if (a[m] < k) // 6 ug = m + 1; // 7 else og = m - 1; // 8 }; return pos; // 9 }
1
2
5 7 8
3
4 6
9
Dr. Ina Schaefer Software Engineering 1 Seite 44
Anweisungsüberdeckender Test § Überdeckung aller Anweisungen: C0-Test
• Jede Anweisung (numerierte Zeile) des Programms wird mindestens einmal ausgeführt.
§ Beispiel: a = {11, 22, 33, 44, 55}, k = 33
überdeckt Anweisungen: 1, 2, 3, 4, 5, 9 a = {11, 22, 33, 44, 55}, k = 15
überdeckt Anweisungen: 1, 2, 3, 4, 6, 7, 8, 9 Beide Testfälle zusammen erreichen volle Anweisungsüberdeckung.
§ Messen der Anweisungsüberdeckung: • "Instrumentieren" des Codes (durch Werkzeuge) • Einfügen von Zählanweisungen bei jeder Anweisung
Dr. Ina Schaefer Software Engineering 1 Seite 45
Zweigüberdeckender Test § Überdeckung aller Zweige: C1-Test
• Bei jeder Fallunterscheidung (einschließlich Schleifen) werden beide Zweige ausgeführt (Bedingung=true und Bedingung=false).
• Zweigtest zwingt auch zur Untersuchung "leerer" Alternativen: if (x >= 1) y = true; // kein else-Fall
§ Beispiel: • Die beiden Testfälle der letzten Folie überdecken alle Zweige.
§ Messung/Instrumentierung von Anweisung i: • Fallunterscheidung:
if (...) { bT[i]++; ... } else { bF[i]++; ... }
• While-Schleife: while (...) { bT[i]++; ... } bF[i]++;
Dr. Ina Schaefer Software Engineering 1 Seite 46
Pfadüberdeckung
§ Pfad = Sequenz von Knoten im Kontrollflussgraphen, so dass in der Sequenz aufeinanderfolgende Knoten im Graphen direkt miteinander verbunden sind.
Anfang = Startknoten, Ende = Endknoten.
§ Theoretisch optimales Testverfahren § Explosion der Zahl von möglichen Pfaden, deshalb
nicht praxisrelevant. (Schleifen haben unendliche Pfad-Anzahlen) § Praktikablere Varianten, z.B. bounded-interior-Pfadtest:
Alle Schleifenrümpfe höchstens n-mal (z.B. einmal) wiederholen
Dr. Ina Schaefer Software Engineering 1 Seite 47
Testen objektorientierter Programme
§ Klassische Verfahren anwendbar für einzelne Methoden • aber: Methoden vergleichsweise kurz und einfach
§ Komplexität liegt zum großen Teil in der Kooperation.
§ Probleme mit Vererbung: Tests der Oberklassen müssen u.U. für alle Unterklassen wiederholt werden: • Beeinflussung von Variablen der Oberklasse • Redefinition von Methoden der Oberklasse
Dr. Ina Schaefer Software Engineering 1 Seite 48
Klassentest
§ Festlegung einer Testreihenfolge für einzelne Methoden • Konstruktoren • Get-Methoden • Boolsche Methoden (is…) • Set-Methoden • Iteratoren • Komplexe Berechnung oder Ablaufsteuerung in einer Klasse • Sonstige Methoden • Destruktoren
Dr. Ina Schaefer Software Engineering 1 Seite 49
Klassentest (2)
§ Festlegung einer Testreihenfolge für das Zusammenspiel der Methoden
§ Berücksichtige Abhängigkeiten zwischen den Methodenaufrufen • Nicht-modal: keine (z.B. Sortierung)
• Testfälle müssen internen Zustand nicht berücksichtigen • Uni-modal: feste Reihenfolge (z.B. Ampel)
• Testfälle testen alle zulässigen und unzulässigen Reihenfolgen • Quasi-modal: inhaltsabhängige Reihenfolge (z.B. Stack)
• Testfälle für alle Zustände und Zustandsübergänge • Modal: fachliche Reihenfolge (z.B. Konto)
• Wie quasi-modal • Zusätzliche Berücksichtigung fachlicher Zusammenhänge
Dr. Ina Schaefer Software Engineering 1 Seite 50
Zustandstests § Spezifikationsbezogen ("black box"):
• Verwendung von Zustandsdiagrammen (z.B. UML) aus Analyse und Entwurf
• Abdeckungskriterien: • alle Zustände • alle Übergänge • für jeden Übergang alle Folgeübergänge der Länge n
• Praxistauglich
§ Programmbezogen ("glass box"): • Automatische Berechnung eines Zustandsdiagramms • Zustand = Abstraktion einer Klasse zulässiger Attributwerte • Bestimmung der Übergänge erfordert symbolische Auswertung
von Methoden (problematisch bei Schleifen und Rekursion) • Im Forschungsstadium
Dr. Ina Schaefer Software Engineering 1 Seite 51
Test-driven Development
§ Programmierer testen meist nicht gerne. • „Testen ist zerstörerische Tätigkeit.“ • Zu spätes Testen führt zu komplizierten Fehlersuchen!
§ Test-First-Ansatz: Tests entstehen parallel zum Code (oder sogar vor dem Code)
§ Programmierer schreiben Tests für praktischen Nutzen: • Klare Spezifikation von Schnittstellen • Beschreibung kritischer Ausführungsbedingungen • Dokumentation von Fehlerbeseitigung • Festhalten von notwendigem Verhalten vor größerem Umbau
("Refaktorisierung") § Tests werden archiviert und sind automatisch ausführbar. § Weitere Information:
• K. Beck, E. Gamma: Programmers love writing tests (JUnit) • K. Beck: Extreme programming explained, Addison-Wesley 2000
Dr. Ina Schaefer Software Engineering 1 Seite 52
Wohin mit dem Test-Code? § Zur Durchführung von Tests entsteht zusätzlicher Code:
• Testtreiber • Testattrappen (Stubs) • Testsuiten
§ Testcode muss aufbewahrt werden, da Tests nach allen größeren Änderungen wiederholt werden.
§ Alternativen: • Testcode als Bestandteil der Klassen
• einfach zu verwalten, vergrößert Code • "Spiegelbildliche" Hierarchie von Testklassen
• Redundanzproblem • Erleichtert Verwendung von Test-Frameworks (z.B. JUnit)
• Testskripten in eigenen Sprachen • klassischer Ansatz, keine Vererbung von Testfällen möglich
• Test-Unterklassen • problematisch wegen Mehrfachvererbung
Dr. Ina Schaefer Software Engineering 1 Seite 53
Testfallerzeugung mit JUnit
§ JUnit (http://www.junit.org/, aktuellw Version 4.0)
• kleines Test Framework
• hat für Java schnell weite Verbreitung gefunden
• Testfälle werden in Java codiert (kein Sprachwechsel für Tests)
• Framework kümmert sich um automatisierte Testfallausführung
• Testausführung ist wiederholbar.
Dr. Ina Schaefer Software Engineering 1 Seite 54
JUnit & Test-First § Test-First ist Grundsatz von XP (eXtreme Programming) § „Test a little, code a little“
0. Wir überlegen uns erste Testfälle für die geforderte Funktionalität. Wiederholung der Schritte 1-6: 1. Auswahl des nächsten Testfalls. 2. Wir entwerfen einen Test, der zunächst fehlschlagen sollte. 3. Wir schreiben gerade soviel Code, dass sich der Test übersetzen
lässt (Signatur). 4. Wir prüfen, ob der Test fehlschlägt. 5. Wir schreiben gerade soviel Code, dass der Test erfüllt sein
sollte. 6. Wir prüfen, ob der Test durchläuft. 7. Die Entwicklung ist abgeschlossen, wenn uns keine weiteren Tests
mehr einfallen, die fehlschlagen können.
Dr. Ina Schaefer Software Engineering 1 Seite 55
Anwendungsbeispiel: Konto
§ 0. Wir überlegen uns erste Testfälle • Erzeuge neues Konto (Account) für Kunden • Mache eine Einzahlung (deposit) • Mache eine Abhebung (withdraw) • Überweisung zwischen zwei Konten, ...
§ 1. Auswahl des nächsten Testfalls: Erzeuge Konto
Dr. Ina Schaefer Software Engineering 1 Seite 56
2. Wir entwerfen einen Test
Testmethoden beginnen mit „test“: Sie führen die getesteten Methoden aus
und prüfen das Ergebnis
import static org.junit.Assert.*; import org.junit.Test; @Test public class AccountTest { public void testCreateAccount() { Account account = new Account("Customer"); assertEquals("Customer", account.getCustomer()); assertEquals(0, account.getBalance()); } }
assertX-Methoden werden genutzt, um Ergebnisse zu prüfen
Dr. Ina Schaefer Software Engineering 1 Seite 57
3. Wir schreiben gerade soviel Code, dass sich der Test übersetzen lässt
public class Account { public Account(String customer) { } public String getCustomer() { return null; } public int getBalance() { return 0; } }
Die zu testende Klasse kennt die Testklasse nicht und kann daher auch ohne Tests eingesetzt werden. Übersetzbarkeit bedeutet: Signaturen + Default-Return-Werte sind vorhanden
4. Wir prüfen, ob der Test fehlschlägt:
Dr. Ina Schaefer Software Engineering 1 Seite 58
5. Wir schreiben gerade soviel Code, dass der Test erfüllt sein sollte
Im Beispiel werden also der Konstruktor und getCustomer umgesetzt sowie die notwendige Datenstruktur (String customer) definiert.
public class Account { private String customer; public Account(String customer) { this.customer = customer; } public String getCustomer() { return customer; } public int getBalance() { return 0; } }
6. Wir prüfen, ob der Test durchläuft:
Dr. Ina Schaefer Software Engineering 1 Seite 59
Weiterer Test: Abheben
Auch erwartete Exceptions können getestet werden
public class AccountTest { ... private Account account; @Before protected void setUp() { account = new Account("Customer"); } public void testWithdraw() throws Exception { account.deposit(100); account.withdraw(50); assertEquals(50, account.getBalance()); try { account.withdraw(51); fail("AmountNotCoveredException expected"); } catch (Exception expected) {} } }
Mehrere „tests“ in einer Testklasse sind möglich
@Before wird vor jedem Test aufgerufen und erzeugt (gemeinsame) Ausgangsdaten @After wird nach jedem Test aufgerufen, um „aufzuräumen“
Dr. Ina Schaefer Software Engineering 1 Seite 60
TestSuite – Testfälle organisieren
import org.junit.runner.JUnitCore; public class AllTests {
public static void main(String[] args) {
JUnitCore.runClasses(AccountTest.class); }
}
Alle Tests in einer Testklassen können nacheinander ausgeführt werden.
Dr. Ina Schaefer Software Engineering 1 Seite 61
Neuerungen von JUnit 3 zu JUnit 4
§ Man braucht nicht mehr von TestCase ableiten. § Die Test-Methoden benötigen nicht mehr den Präfix test,
stattdessen kann die Annotation @Test verwendet werden. § Statt setUp() nun auch @Before § Statt tearDown() nun auch @After § Einfaches Testen von Exception-Auslösung durch die Annotation
@Test(expected=NullPointerException). § Weitere Annotationen: @BeforeClass, @AfterClass, @Timeout,
@Ignore § Alte JUnit-Testfälle können problemlos mit JUnit4 verwendet werden § JUnit4-Testfälle können mit Hilfe des JUnit4TestAdapters auch
in alten JUnit-Version ausgeführt werden
Dr. Ina Schaefer Software Engineering 1 Seite 62
Integrationstests
§ Integrationstests betrachten das Zusammenspiel von Komponenten. § Falls Komponenten nicht allein lauffähig sind, muss Testrahmen
bereitgestellt werden.
Testobjekt
Platzhalter
(Stubs) Ersetzen
nicht Vor-
handene Code- teile
Testtreiber (Driver) Liefern
Testdaten, Stossen
Ausführung an
Laufzeitumgebung, Monitore (protokol-
lieren Ausgaben)
Dr. Ina Schaefer Software Engineering 1 Seite 63
Top-Down Integrationsteststrategie
Level 2Level 2Level 2Level 2
Level 1 Level 1Testingsequence
Level 2stubs
Level 3stubs
. . .
§ Benötigt viele Stubs, wenige Testtreiber
Dr. Ina Schaefer Software Engineering 1 Seite 64
Bottom-Up Integrationsteststrategie
Level NLevel NLevel NLevel NLevel N
Level Nœ1 Level Nœ1Level Nœ1
Testingsequence
Testdrivers
Testdrivers
§ Benötigt viele Testtreiber, keine Stubs
Dr. Ina Schaefer Software Engineering 1 Seite 65
Inkrementelle Integration
T3
T2
T1
T4
T5
A
B
C
D
T2
T1
T3
T4
A
B
C
T1
T2
T3
A
B
Test sequence1
Test sequence2
Test sequence3
§ Test, dass neue Komponente nicht bisheriges Zusammenspiel stört.
Dr. Ina Schaefer Software Engineering 1 Seite 66
Systemtest
§ Testet ob Kunden-Anforderungen richtig umgesetzt wurden (Verifikation)
§ Testumgebung sollte Produktiv-Umgebung möglichst nahe kommen (also keine Stubs und Testtreiber)
§ Produktiv-Umgebung oft selbst nicht geeignet wegen Schadensrisiko und mangelnder Kontrolle
§ Einzelne Funktionen, aber auch Funktionssequenzen (für Geschäftsprozesse) testen
§ Sollte Test von nicht-funktionalen Anforderungen beinhalten, wie Performanz, Sicherheit.
Dr. Ina Schaefer Software Engineering 1 Seite 67
Abnahmetest
Input: § System § Abnahmekriterien § Testfälle § Testplan § Protokollvorlagen § Systemdokumentation
Output: § Testprotokolle § Unterschriebenes
Abnahmeprotokoll § Abnahme ohne Mängel § Abnahme mit Mängeln § Abnahme verweigert
§ Abnahme-test
§ wird vom Kunden vorgenommen
Dr. Ina Schaefer Software Engineering 1 Seite 68
Zusammenfassung: Qualitätsmanagement
§ Qualitätsmanagement umfasst Qualität der Prozesse und der Produkte (konstruktive vs. analytische Qualitätssicherung).
§ Analytische Qualitätssicherung: • Statisches Testen: Reviews, Inspektionen • Dynamisches Testen:
• Unittests • Integrationstests • Systemtests • Akzeptanztests
§ Testmethoden: Black Box vs. White Box Testen, Coveragekriterien