In der Kryptoanalysis geht es um die Entwicklung von Methoden, mit denen man aus dem Schlüsseltext ohne Kenntnis des Schlüssels möglichst viele Informationen über den Klartext gewinnen kann.
Nach A. KERCKHOFF liegt die Sicherheit eines Kryptosystems allein in der Schwierigkeit, den Schlüssel oder genauer die Entschlüsselungsfunktion zu finden. Sie darf nicht auf der Geheimhaltung des Systems selbst beruhen.
Es gibt verschiedene Aspekte zur Beurteilung der Sicherheit von Kryptosystemen:
Bei der Kryptoanalyse werden oft statistische Methoden (Häufigkeitsanalysen für Buchstaben und Wörter) angewandt. Neben dem vollständigen Suchen und der Trial-and-Error-Methode ist auch eine Strukturanalyse des Kryptosystems denkbar (Lösen von Gleichungssystemen).
Bei Angriffen auf Kryptosysteme kann man versuchen, einige häufig vorkommende Chiffrierfehler auszunutzen, z.B.die Verwendung stereotyper Formulierungen, das wiederholte Senden wenig geänderter Klartexte, eine ungeschickte vorhersehbare Schlüsselauswahl und die Verwendung von Füllzeichen.