Flirting with disaster-Fehler in Software

na dann googelt mal und guckt wieviel atombomben die USA schon verloren hat

Es geht noch weiter:

Der Wettersatellit Nimbus 7, der unter anderem die Aufgabe hatte, die Ozonschicht
über der Antarktis zu messen, ignorierte völlig das Ozonloch. Erst als die Stationen
in der Antarktis 1984 das Ozonloch bestätigten, erkannte man, das die Software zu niedrige Werte automatisch als Meßfehler aussortierte...

Das sieht ja schon fast nach Absicht aus...


@UffTaTa

Ein automatisches Geschütz, das wegen eines Softwarefehlers die eigenen
Soldaten tötet, ist gleich doppelt schlimm...

http://www.chip.de/news/Militaer-Roboter-toetet-neun-eigene-Soldaten_29184906.html (Archiv-Version vom 09.02.2009)

Ich möchte mal wissen, was den Programmierer jetzt erwartet...

Noch etwas für die Sicherheit...

Innerhalb eines Zeitfensters von 8 Jahren (1988-1996) war es möglich in Rechner einzu-
dringen, deren Passwortsystem auf dem Kerberos-Protokoll beruhte. Die Zufallszahlen,
waren durch einen Programmfehler nicht zufällig, sondern lieferten immer vorher-
sehbare Werte. Es ist nicht bekannt, ob und wie oft diese Lücke ausgenutzt worden ist...


@andreasko

Mag sein, aber die Fehler der anderen Supermacht im kalten Krieg waren sicher ähnlich
gravierend, sie sind nur weniger bekannt...

@wolf359
Stimmt,
ich fand den Fall interesannt,in dem die Rakete selbstständig starten wollte... solches Eigenleben ist grußelig.
bei der Freund-feind-erkennung eines Kampfroboters kann das fatal werden...
Es gibt zwar programme die anhand von schatten hinter einer rauchwolke schon erkennen ob es ein Flugzeug,oder ein helikopter ist,aber ich weiß nicht wie lange der Roboter zum "denken" braucht,und ob er in hektischen situationen überhaupt zum schuss kommt.

@Legion4

Es könnte ja auch sein, das der Schatten hinter einer Rauchwolke weder ein feindlicher
Helikopter, noch ein feindliches Flugzeug ist. Es könnten ja auch eigene Fluggeräte sein
oder auch nur ein Soldat, der auf einem Panzer hockt und sich leicht verrenkt, um sich
den Rücken zu kratzen...
Ein Software, die auf eine Mustererkennung und vielleicht auf Infrarotabstrahlung setzt, hat sicher auch eine Fehlerquote. Am Besten man sorgt immer dafür, das die Geschütze
in Richtung Feind zeigen. Vielleicht könnte es auch eine Freund-Feind-Kennung geben,
die auf simplen Funkwellen beruht, aber diese könnte vom Gegner gestört, kopiert
oder auch imitiert werden. Automatische Geschütze ließen sich vielleicht leichter täuschen,
als Meschen...

die panzer geben ihre peilung ständig an die zentrale,somit weiss der generalstab wo sich wann welcher panzer befindet...die bekommen das per gps auf ne riesige karte gesendet...freund feind erkennung wäre kein thema,weil sich die panzer per gps peilung erkennen würden

@andreasko

Aber was wäre denn, wenn man die gps-Peilung imitieren würde, so das man gar nicht
weiß, ob es sich bei dem betreffenden Panzer um ein eigenes oder ein feindliches
Fahrzeug handelt ? Jedes Signal kann gestört oder imitiert werden, wenn auch manchmal
nur mit einem größeren Aufwand. Und in einem Gefecht, kann leicht mal die Übersicht
verloren gehen. Es gibt sicher Situationen, in denen ein Gps gar nicht viel nutzt. Wenn
sich z. B. zwischen den eigenen Einheiten fremde Einheiten befinden. Ein Feuer auf diese
Einheiten kann auch leicht eigene Fahrzeuge beschädigen, wenn dazu noch Nebel
herrschen würde wüsste man bestenfalls, wo sich die eigenen Fahrzeuge befinden.
Eine Peilung nützt nicht viel, wenn Freund und Feind sich dicht an dicht auf die Pelle rücken.
GPS ist sicher ein Vorteil, kann aber nicht alles...

@wolf359:
muster- und kontrasterkennung lässt einen menschen viel eher etwas falsches sehen, als einen roboter. unsere sehfähigkeit ist extrem beschränkt. was sehen wir menschen nicht alles in der nacht, wenn die fantasie mit uns durchgeht und die schatten eigenartige formen werfen. ein roboter kann sich leicht behelfen, da er über weit mehr möglichkeiten zum sehen verfügt.

und zum thema signale: natürlich ist es prinzipiell nicht ausgeschlossen, das man das signal stören oder gar imitieren kann. aber das ist bedeutend schwerer, als wenn sich bspw. ein soldat einfach nur die kleidung des gegners anzieht. die signale sind hingegen verschlüsselt und es bedarf einiges mehr an aufwand um sich das als gegner zunutze zu machen.

@andreasko

andreasko schrieb:die panzer geben ihre peilung ständig an die zentrale,somit weiss der generalstab wo sich wann welcher panzer befindet...die bekommen das per gps auf ne riesige karte gesendet...freund feind erkennung wäre kein thema,weil sich die panzer per gps peilung erkennen würden

und du meinst nicht das diese Technik das erste wäre was ein Angreifer versucht "umzudrehen" bzw. zu simulieren?

Krieg ist heutzutag zu einem größen Teil Informationskrieg über die beherschung der (digitalen) Informationen. Dazu zählt natürlich auch die altbekannte Propaganda, heutzutage aber auch noch taktische Informationen.

@Zoddy

Zoddy schrieb:die signale sind hingegen verschlüsselt und es bedarf einiges mehr an aufwand um sich das als gegner zunutze zu machen

und iuhnen wird eswegen auch mehr "vetraut", weswegen die Auswirkungen solch einer Fäschung erheblich gravierender sind.

UffTaTa schrieb:und du meinst nicht das diese Technik das erste wäre was ein Angreifer versucht "umzudrehen" bzw. zu simulieren?

hat das schon jemand geschafft?

@UffTaTa:
und iuhnen wird eswegen auch mehr "vetraut", weswegen die Auswirkungen solch einer Fäschung erheblich gravierender sind.
was in den meisten fällen auch angebracht ist. nehmen wir nur einmal nachteinsätze und dann am besten noch ein modernes gunship. wie sollen die bordschützen von da oben wissen wer da wer ist, wenn da nicht fleißig die signale reinkommen, an denen man freund und feind unterscheiden kann. solche einsätze wären extremst gefährlich für die bodentruppen.

aber selbst wenn es nur eine bodeneinsatztruppe wäre und diese in vollkommener dunkelheit agieren müsste, hätten sie es weitaus schwerer, wenn sie nicht sofort erkennen würden, das das da drüben wohl höchstwahrscheinlich kein feind ist.

wie gesagt, am besten ist meiner meinung nach ein mischmasch um die nachteile beider "welten" auf ein minimum zu reduzieren. und da ist die freund-feind-erkennung moderner armeen schon ziemlich gut.

Besinnen wir uns wieder auf das gute alte Norden Zielgerät und Abwürfe >7000m Höhe :}

@wolf359
@Zoddy

identifizerung von schemen in Rauch,oder z.b Dunkelheit oder hinter bäumen geht sehr schnell,hatte vor einiger zeit eine Doku darüber gesehen.

Aber ich meine, es gibt soviele faktoren, ob das Objekt ein Gegner oder verirrter Soldat der eigenen Reihen ist,oder nur ein Opa der mit nem Krügstock wedelt. was macht das Programm dann? das zu programmieren dauert ne weile,und wenn es, wie man bei den anderen sieht nicht richtig abgeschlossen ist, kann ich mir gut vorstellen das das Ding entweder Feuert wenn garkein Feind zu sehen ist,oder nichts tut, wenn sich gegner nähern.
Wobei, solange die dinger nicht mit Atomwaffen schmeißen,kanns mir egal sein.

Es geht hier ja nicht vorrangig um Waffensysteme, aber nur mal um des Arguments
willen: wie sieht es denn mit einfachen Maßnahmen aus, die Erkennung zu erschweren ?
Eine einfache Rettungsfolie könnte schon die Infrarotabstrahlung stark dämpfen, man
könnte falsche Signale aussenden oder auch Fahrzeuge in billigen, teilweise mit Wärme-
dämmung ausgestatteten Kulissen fahren lassen. Man könnte die Sensoren mittels
starker Impulse blenden usw. Ich denke, das man sich realtiv leicht vor elektronischen
Sensoren mit rein automatischen Steuerprogrammen ohne Verstand schützen könnte,
wobei sich diese Programme natürlich auch ständig verbessern könnten, aber gegen
jede Maßnahme ließe sich irgendwann auch eine Gegenmaßnahme finden...

Der schwarze Montag...

Im Jahre 1987 wurde bereits jeder fünfte Aktienhandel an der Wall Street per Computer
abgewickelt, wenn aber zu viele Handelspartien dieselbe Strategie verfolgten und dazu noch ähnliche Software nutzen, fehlten wegen Überlastung entweder das Angebot oder die Nachfrage. Das hatte extreme Kursschwankungen zur Folge und dies führte schließlich zu einem Crash, der zu einen Tagesverlust des Aktienindexes von mehr als zwanzig Prozent führte. Und das ganz ohne Wirtschaftskrise...

@andreasko

ufftata schrieb:
und du meinst nicht das diese Technik das erste wäre was ein Angreifer versucht "umzudrehen" bzw. zu simulieren?

hat das schon jemand geschafft?

wer weis das schon, es würde mich aber wund4rn wenn es nicht machbar isrt. Den jedes System lässt sich auch überlisten, nur ist ev. der Aufwands zu groß. Siehe Kryptographieverfahren. Die sind auch knackbar, aber welcher Soldat schleppt schon ein Mainframe auf dem Buckel mit rum und hat Jahrzehnte Zeit ;-)

Im Jahr 1988 schrieb ein Student ein Programm, das sich selbständig durch das
Netz bewegen sollte, ohne Schaden anzurichten. Wegen eines Programmfehlers
befiel es 10 % des damaligen Internets und legte es durch Ãœberlastung lahm.
Interessant ist, das der Vater des Studenten damals der Chef in Sachen Computersicherheit bei einem US-Geheimdienst gewesen ist...
(Zwei Jahre Später wurde der Student zu einer Bewährungsstrafe, 400 Stunden
Sozialarbeit und einer Geldstrafe von 10000 Dollar verurteilt.)

Im Jahre 1982 wurde während des Falkland-Konfliktes eine britische Fregatte zerstört.
Der Grund war, das das moderne Raketenabwehrsystem der Fregatte, die abgefeuerte
Rakete als Produkt eines Nato-Landes erkannte und es deshalb als "befreundetes Objekt"
einstufte und somit keine Gegenmaßnahmen ergriff. Dieser Fehler in der Software kostete
zwei Menschen das Leben...

Vor einigen Jahren gab es ein Softwareproblem in einem erfolgreichen und renommierten
Konzern. Bei der Entwicklung eines neuen Flugzeuges wurden sowohl die alte (noch auf
Unix laufende...) Version einer Konstruktionssoftware verwendet, als auch die neue
Version, die in einer anderen Programmiersprache komplett neu geschrieben wurde und
auf einem andere Betriebssystem lief. In vielerlei Hinsicht waren beide Programme inkom-
patibel zueinander. Eine extra geschriebene Software, die die Ergebnissse beider
Programme zueinander kompatibler machen sollte, funktionierte nicht richtig und
wurde daher auch kaum genutzt. Als dann der mit der neuen Software konstruierte
Rumpf und die mit Hilfe der alten Software konstruierte Elektronik und Kabel zusammen-
gesetzt werden sollten, stellte sich heraus, das viele Kabel zu kurz waren. Dies führte zu
Lieferschwierigkeiten und Termine platzten. Insgesamt summierten sich der Verlust durch
die Verzögerung auf sage und schreibe 5 Milliarden Euro...

Autsch...