DBT Newsletter #14/2019

Experte Hochreiter – Zickige KIs werden abgeschalten

Beim Weltverständnis ist der Mensch noch weit voraus, Foto: APA (Techt)






Sepp Hochreiter hat mit den "Long Short-Term Memory-Netzen" eine der Grundlagen für die Technologie der Künstlichen Intelligenz geschaffen, die heuer im Zentrum der Alpbacher Technologiegespräche (22.-24.8.) steht. Im APA-Gespräch erklärt der Informatiker von der Uni Linz, warum KI-Systeme die Menschen nicht unterjochen werden und nicht nur im Internet-Sektor, sondern in jedes Auto und in jede Bohrmaschine Einzug halten.

Frage: KI ist ja kein Zukunftsthema, sondern schon Realität. Wo sind wir bereits mit KI konfrontiert?

Hochreiter: Beim Handy, etwa bei der Sprachein- und -ausgabe, der Wortvervollständigung beim Schreiben von Nachrichten oder dem Sortieren von Bildern. Auch im gesamten E-Commerce trifft man auf eine ganze Palette von KI-Methoden: Das reicht von Produktvorschlägen nach einem Kauf bis zu automatisch übersetzten Produktbeschreibungen von Anbietern aus Ländern mit anderer Sprache. In der Verwaltung und bei großen Unternehmen trifft man auf Chat-Bots, die mit Hilfe von KI-Methoden Standardauskünfte geben oder einfache Handlungen setzen. Im Auto gibt es KI-basierte Assistenzsysteme wie Spurhalteassistent oder Verkehrszeichenerkennung.

Frage: Kann ich bei Interaktionen erkennen, dass es sich um ein KI-System handelt?

Hochreiter: Das wird schwieriger und schwieriger. Es gibt etwa Chat-Bots auf Twitter. Wenn da nur ein Satz steht, ist es extrem schwer, eine KI zu erkennen.

Frage: Sollte man nicht explizit ausschildern, dass es sich um eine KI handelt?

Hochreiter: Ich glaube schon, warum sollte man das verheimlichen?

Frage: KI-Systeme haben bereits die besten menschlichen Spieler in Schach und Go geschlagen, kürzlich auch fünf professionelle Poker-Spieler. Zudem schneiden KI-Systeme bei verschiedenen medizinischen Diagnosen besser als Ärzte ab. Sind diese Systeme nun tatsächlich intelligenter als Menschen?

Hochreiter: Kommt darauf an, wie man Intelligenz definiert. KI-Systeme können ihre Umgebung genau wahrnehmen. Das benötigt man etwa bei der Verkehrszeichenerkennung oder der Krebsdiagnose aus Gewebeschnitten. In solchen Spezialgebieten sind sie besser. Was aber logisches Schließen und Weltverständnis betrifft, sind Menschen noch weit voraus. Ein oft gebrachtes Beispiel aus dem Bereich Selbstfahrende Autos ist das Plastiksackerl, das vom Wind vor das Auto geweht wird. Als Mensch weiß ich, was das ist und dass ich drüberfahren kann und keine Vollbremsung machen muss. Für die KI ist das ein Objekt, das erkannt wird und mit dem eine Kollision vermieden werden sollte. Man braucht Weltverständnis dafür, dass Wind Dinge wie Plastiksackerl oder Blätter verwehen kann und das üblicherweise keine Gefahr darstellt. KI-Systemen fehlt dieses Weltverständnis, das auch zur Intelligenz gehört, noch stark, weil diese derzeit vor allem auf Spezialaufgaben trainiert werden.

Frage: Aber ist dieses Weltverständnis nicht vor allem Erfahrungswissen, das sich Menschen von Kindesbeinen an aneignen? Demnach müsste man eine KI nur ein paar Jahre Erfahrung sammeln lassen.

Hochreiter: Richtig, genau das ist auch die Idee. Das Weltwissen wird ganz lange trainiert, mit Daten gefüttert; die KI soll rausgehen und selber Erfahrungen machen, so wie ein Kleinkind die Welt erforscht. Der Vorteil der KI ist, dass man dann Kopien machen und diese Erfahrung in jede neue KI einbauen kann. Wir versuchen derzeit das auch zu erforschen und eine KI zu bauen, die ganz viel von der Welt weiß, auch wenn das für die konkrete Aufgabenstellung nicht notwendig ist. Es wäre gut, ein System zu haben, das Weltverständnis hat und sich erst dann in Spezialaufgaben einarbeitet. Denn mit diesem Weltverständnis kann es in Situationen, die ihm zum ersten Mal begegnen, handlungsfähig bleiben.

Frage: Kluge Köpfe wie Stephen Hawkings haben davor gewarnt, dass KI eine Gefahr für den Fortbestand der Menschheit darstellen. Sehen Sie das auch so dystopisch?

Hochreiter: Es gibt Leute die sagen, der Mensch ist nur eine vorübergehende Erscheinung und die biologische Intelligenz geht in eine maschinelle Intelligenz über, die sich weiterentwickelt und den Menschen irgendwann nicht mehr braucht. Ich glaube nicht, dass diese Szenarien eintreten werden. Die KI kommt nicht aus der Evolution, sondern ist menschengeschaffen, sie hat keinen Überlebenstrieb eingeimpft wie der Mensch. Bei der KI überlebt nicht die stärkere, sondern jene, die besser funktioniert, die genau das gemacht hat, was wir wollten. Denn diese wird weiterentwickelt und öfter kopiert. Die anderen werden modifiziert oder abgeschalten. (…) Der Mensch wird die KIs weiterentwickeln, die ihm dienlich sind, und nicht jene, die irgendwelche Zicken machen.

Frage: Die EU-Kommission will beim Hype um die KI mit "vertrauenswürdiger KI" punkten und hat ethische Leitlinien dafür präsentiert. Ist das eine kluge Strategie oder eher eine Feigenblattaktion, weil man ohnedies vom Markt überrollt wird?

Hochreiter: Das weiß ich nicht. Ich finde es aber katastrophal, dass man sich auf die rechtlichen und ethischen Regelungen konzentriert und die Technologie wird von Amerika und China gebaut. Wir müssen ja auch die Technologie verstehen, und dafür müssen wir selber mitmischen. Was für mich am frustrierendsten ist, dass die Amerikaner und Chinesen genau das nutzen, was wir erfinden. LSTM, das jetzt überall eingebaut ist, habe ich erfunden (Hochreiter hat mit der Technik Long Short-Term Memory (LSTM) eine der Grundlagen für KI-Systeme geschaffen, Anm.). Wir sind vorne in der Forschung dran und dann kommen Leute und sagen, hören wir damit auf und lassen das die Amerikaner und die Chinesen machen.

Wir sind auch in der Ausbildung vorne dran und starten im Herbst ein KI-Studium, mit Inhalten wie Deep Learning, LSTM und Mechatronik, das gibt es nicht in China, nicht in Amerika. Die Absolventen werden dann in den Firmen diese Techniken einsetzen. Und das ist gut so, denn KI wird nicht nur im Internet-Sektor eingesetzt, sondern wird in den Kühlschrank reinkommen, in jedes Auto, in jede Drehmaschine und Bohrmaschine. Wenn wir in Österreich und Deutschland die besten Maschinenhersteller sind, dann müssen wir die KI-Technologie auch erlernen, und die ersten sein, die KI-Methoden in die Maschinen hineinbringen. Damit nicht wieder ein Google oder Amazon daherkommt wie beim Auto und sagt, na gut, das bisserl Engineering und ein paar Drehmaschinen kann ich zukaufen, dann bauen wir unsere KI rein und dann geht es los. Nein, das wollen wir doch lieber selber machen.

Das Gespräch führte Christian Müller/APA


Risiko für massive Schäden durch Cyberangriffe nimmt zu 

Heimische - Hidden Champions - besonders im Visier von Spionen, Foto: APA (dpa)


Cyberattacken auf die kritische Infrastruktur des Landes könnten die Souveränität Österreichs gefährden und letztendlich zum Einsatz militärischer Mittel führen. "Dieses Szenario wird täglich denkbarer. Denn die aktuellen Technologietrends machen uns digitaler und abhängiger", erklärte Walter Unger, Leiter der Abteilung "Cyber Defence und IKT-Sicherheit" im Verteidigungsministerium, im Gespräch mit der APA.

Mit dem Internet der Dinge, der Cloud-Technologie und der nächsten Mobilfunkgeneration 5G nehme die Vernetzung weiter zu, so dass der Ausfall einer bestimmten Infrastruktur – etwa der Energieversorgung – möglicherweise viel unmittelbarer auf andere Infrastrukturen, wie die Telekombranche oder Gesundheitseinrichtungen, durchschlägt. "Dann könnte die Souveränität Österreichs gefährdet sein. Das wäre die Voraussetzung für einen Verteidigungsfall, also den Einsatz militärischer Mittel", so der Experte.

Ziel von Cyberangriffen auf Österreich könnte sein, dass man politische Zugeständnisse erpressen will. "Das kostet wenig, man braucht kaum Personal, kann anonym agieren und die Maßnahmen sukzessive steigern. Daher ist das attraktiv für Aggressoren und bereits in diversen Konflikten beobachtbar", erklärte Unger, der bei den Technologiegesprächen im Rahmen des Europäischen Forums Alpbach mit anderen Experten über das Thema "Freiheit und Sicherheit – die ersten Opfer der Digitalisierung?" diskutiert.

Normalzustand schnell wieder herstellen

Um ein Krisen-Szenario zu verhindern, setze man auf Prävention, Notfallpläne und -übungen. Wichtig sei aber auch, den Normalzustand nach einem Ausfall möglichst schnell wieder herstellen zu können, "also binnen weniger Stunden. Wenn beispielsweise ein Stromausfall mehr als einen Tag dauert, wird es bedenklich", so Unger. Er setzt zudem auf die abschreckende Wirkung, wenn ein Land zur militärischen Reaktion fähig ist. "Täter sollten wissen, dass man sie eventuell enttarnt und offensiv gegen sie vorgeht, wenn sie Österreich angreifen. Das kann sich eigentlich jeder Staat leisten. Denn die militärischen Fähigkeiten in diesem Bereich hängen nicht unmittelbar mit Geld und vielen Soldaten zusammen, sondern mit Know-how und Kreativität", ist der Fachmann überzeugt.

Auch umgekehrt wird der Kampf inzwischen zum Teil digital geführt. So verlautbarte der britische Geheimdienst GCHQ, erstmals offen Cybermittel im Kampf gegen die Terrormiliz IS eingesetzt zu haben. Dadurch sei es laut Unger gelungen, den Großteil der Propagandaseiten zu sabotieren oder zu entfernen. "Entsprechende Aktivitäten sind auch im Konfliktherd Ukraine zwischen den beteiligten Parteien regelmäßig zu beobachten", sagte Unger. Neben Propaganda und Sabotage würden Beeinflussung beziehungsweise Desinformation – besonders im Vorfeld von Wahlen oder Abstimmungen – an Bedeutung gewinnen.

Know-how im Visier von Spionen

Zu einem großen Thema habe sich auch Spionage entwickelt. Laut Studien gebe es mehrere tausend Gruppierungen, die hier aktiv sind. Ob es sich dabei um private Informationsanbieter handelt, diese für Länder tätig sind oder aus terroristischen Zwecken agieren, sei oft schwer zu erkennen. "Klar ist aber, dass alles was wir an Know-how, an Dienst- oder Betriebsgeheimnissen haben, permanent durch Spionage bedroht wird. Der Ausgangspunkt dafür kann jeder Punkt der Erde sein. Da darf man nicht nur in eine Richtung blicken", so Unger. Besonders interessant seien die paar hundert "Hidden Champions", die es in Österreich gebe.

Sorge bereitet ihm, dass jeden Tag neue schwerwiegende Schwachstellen sowohl bei Software als auch Hardware entdeckt würden. Vor allem bei der Hardware gebe es neue Einfallstore, die man zwar vermutet hatte, aber lange nicht beweisen konnte. Mittlerweile sei schon eine Reihe von solchen Lücken festgestellt worden. "Das ist natürlich für die Sicherheitsverantwortlichen ein GAU, weil es keine Möglichkeit gibt, diese Schwachstellen systematisch zu erkennen", erklärte der Experte. Bei Software wiederum würden ungeprüfte Produkte auf den Markt geworfen, die zahlreiche Angriffsflächen aufwiesen und für die es nach ein paar Jahren keine Updates mehr gebe. "Hier könnte man das Haftungsrecht ausbauen. Was in anderen Technikbereichen – siehe Autoindustrie – schon lange gang und gäbe ist, muss auch hier greifen."

Großteil der Breitbandmilliarde verbraucht

RTR-Chef Steinmaurer:





Von der 2013 beschlossenen Breitbandmilliarde sind rund 820 Mio. Euro bereits vergeben bzw. in Vergabe. Vor einem Jahr hatte der Rechnungshof den langsamen Ausbau noch heftig kritisiert, nun geht RTR-Chef Klaus M. Steinmaurer davon aus, dass das Ziel einer flächendeckenden Versorgung mit einer Übertragungsgeschwindigkeit bis zu 100 Mbit/s bis Jahresende 2020 nahezu erreicht wird.

Verkehrsminister Andreas Reichhardt hat kürzlich vor Journalisten den Startschuss für die Breitbandstrategie 2030 ausgegeben. Finanziert werden soll sie aus den verbleibenden Mitteln der Strategie 2020, Investitionen der Netzbetreiber sowie aus den Erlösen der geplanten Frequenzversteigerung im Frühjahr 2020. Zur Erinnerung: Auch die jetzige Breitbandmilliarde haben sich die Mobilfunker selbst bezahlt, sie stammt aus einer zwei Milliarden Euro schweren Auktion.

Für die Auktion im Frühjahr nächsten Jahres sind im Budget vorerst 350 Mio. Euro eingeplant. Wobei Reichhardt, wie schon sein Vorgänger Norbert Hofer, den Fokus nicht auf die Gewinnmaximierung für den Bund legt. Vielmehr soll den Netzbetreibern noch genug Geld bleiben, um das Netz auch rasch auszubauen, so Reichhardt.

Besonders eifrig beim Breitbandausbau waren bisher Niederösterreich, Oberösterreich und Tirol, während das Burgenland, Kärnten und die Steiermark noch Luft nach oben haben. Die anfänglich schleppende Nachfrage nach Förderungen für Leerverrohrungen habe sich nicht zuletzt durch die Möglichkeit eines gemeinsamen Vorgehens mehrerer Gemeinden gebessert.

5G braucht Glasfaser

"Die Infrastruktur ist die Mutter der Digitalisierung", so Steinmaurer. Und auch für die nächste Mobilfunkgeneration 5G brauche man den Glasfaserausbau. "5G zieht das Glas ins Land hinaus", so der Chef der Regulierungsbehörde mit Verweis auf die jetzt verlegte Kupferleitung, die den Anforderungen nicht mehr entspreche. Der Wechsel zu Glasfaser werde aber dauern, schließlich habe der Ausbau der Kupferleitungen 70 Jahre in Anspruch genommen.

Die Breitbandmilliarde wurde 2013 von der damaligen SPÖ/ÖVP-Regierung beschlossen und wird aus dem Erlös der Versteigerung von Funkfrequenzen finanziert. Die Nachfolgeregierung aus ÖVP und FPÖ hielt an den Zielen der Vorgängerregierung fest, bis nächstes Jahr flächendeckend eine Internetgeschwindigkeit von 100 Mbit/s anzubieten.

Mit Stand Juli 2019 haben bisher knapp 840.000 Personen von der Breitbandmilliarde profitiert. Das entspreche rund der Hälfte der unterversorgten Bürger, hieß es kürzlich im Evaluierungsbericht "Breitband in Österreich" des Verkehrsministeriums.

Aus der Wissenschaft: 

Bei Blockchain-Transaktionen die Privatsphäre sichern

Laborleiter Pedro Moreno-Sanchez, Foto: TU Wien





Blockchains sind heute ein wichtiger Teil der Internet-Technologie. Man verwendet sie für Kryptowährungen wie Bitcoin, aber auch für andere sensible Anwendungen, etwa für das Verwalten von Lieferketten in High-Tech-Fabriken. Ursprünglich hielt man Blockchains für so etwas wie den Heiligen Gral der Datensicherheit im öffentlichen Informationsaustausch. Doch bald erkannte man, dass sie diesem Versprechen keineswegs gerecht werden können. An der TU Wien wurde daher 2018 das Blockchain-Forschungslabor gegründet, das sich nun bereits als höchst erfolgreich erweist: Mit finanzieller Unterstützung führender Blockchain-Firmen wurden nun entscheidende Datenschutz-Probleme gelöst.

Mehr Infos


Newsletter-Archiv


Empfehlen & Verbreiten Facebook Twitter
Load more