Zu Gast bei den Nieheimer Holz- und Technologietagen: Professor Roman Dumitrescu

Bildunterschrift: Professor Roman Dumitrescu sieht in vielen Bereichen großes Potential für gezielte Anwendungen der Künstlichen Intelligenz. Foto: Fraunhofer IEM/Universität Paderborn

Zu Gast bei den Holz- und Technologietagen: Professor Roman Dumitrescu plädiert für den breiten gesellschaftlichen Konsens beim Einsatz von KI-Systemen

„Wir dürfen das kritische Denken nicht verlernen“

Nieheim. Künstliche Intelligenz (KI) ist längst in aller Munde, die Branche erlebt eine ungeheure Dynamik. Denn KI dringt aktuell in alle Lebensbereiche vor. Ob Sprach- und Bilderkennung, Routenberechnung, autonomes Fahren, Simultanübersetzung, medizinische Diagnose oder auch in der Forschung, KI-Anwendungen werden inzwischen auf vielen Gebieten erfolgreich eingesetzt. Einer, der bereits seit langer Zeit zu künstlicher Intelligenz forscht, ist Professor Dr. Roman Dumitrescu. Der Direktor am Fraunhofer Institut für Entwurfstechnik Mechatronik IEM an der Universität Paderborn wird zur Eröffnungsveranstaltung der Nieheimer Holz- und Technologietage am Samstag, 2. September, ab 11 Uhr auf dem Richterplatz erwartet. Bereits vorab im Interview erläutert der Wissenschaftler und Geschäftsführer des Technologienetzwerkes „It´s OWL“, Chancen und Risiken im Einsatz von künstlicher Intelligenz. 

Frage: Herr Professor Dumitrescu, inzwischen vergeht kein Tag, ohne dass in den Medien über KI diskutiert wird und irgendein Experte oder eine Expertin seine/ ihre Meinung darüber in die Öffentlichkeit trägt. Ist das gerechtfertigt, einfach nur Hysterie oder ist KI wirklich eine echte Revolution? 

Antwort: In Teilen ist die Diskussion in den Medien gerechtfertigt, wobei das aber in einigen Fällen, wie so oft, stark überdramatisiert wird. Die jüngsten Entwicklungen im Bereich der generativen KI, wie zum Beispiel ChatGPT, können aber tatsächlich als Revolution verstanden werden. Die Fähigkeit, gut klingende Texte zu erzeugen, komplexe Aufforderungen zu verstehen oder audiovisuelle Inhalte zu generieren, ermöglicht uns, schnell zu guten Ergebnissen zu kommen. Dabei ist es wichtig, dass die erzeugten Inhalte kritisch betrachtet und nicht als fertige Lösung verstanden werden, sondern als Basis für die Weiterverarbeitung durch uns. 

Frage: In welchen Bereichen wird KI tiefe Spuren hinterlassen und künftig nicht mehr wegzudenken sein? 

Antwort: Ich gehe davon aus, dass die Interaktion mit technischen Systemen zukünftig viel stärker über natürliche Sprache erfolgen wird. Anstelle komplexer grafischer Benutzeroberflächen werden wir womöglich in Zukunft vorwiegend über geschriebene oder gesprochene Sprache mit Computern und anderen Technologien interagieren. Großes Potenzial sehe ich in den Bereichen Medizin, Bildung und Innovation.

Frage: Warum sollte gerade in Deutschland der Einsatz von KI gefördert werden, und wo kann sie am besten eingesetzt werden? 

Antwort: Wenn wir davon ausgehen, dass KI-Systeme die Menschen befähigen, ihre Aufgaben effizienter und besser zu bewerkstelligen, dann hilft die Technologie im Grunde genommen uns allen. Um die internationale Wettbewerbsfähigkeit von Deutschland sicherzustellen, müssen wir die Potenziale dieser KI-Systeme, insbesondere im industriellen Umfeld erschließen. Dabei sollten wir aber aus meiner Sicht einen menschzentrierten Ansatz verfolgen, mit dem Ziel, die Qualität der Arbeit zu erhöhen und die Zufriedenheit der Mitarbeitenden zu steigern.

Frage: Was KI angeht, gibt es auch viele Ängste wie vor Arbeitsplatzverlust. Sie haben durch Ihre Informationsplattform bei it´s OWL bereits erste Erfahrungen mit der Arbeitswelt gesammelt. Wie sieht das aus, sehen die Menschen die KI als Hilfe oder als Bedrohung?

Antwort: Das lässt sich nicht pauschal beantworten. Unserer Erfahrung nach ist es aber essenziell, dass die Beschäftigten die Einführung neuer Technologien wie auch KI-gestützte Systeme von Beginn an mitgestalten können. Damit steht und fällt auch häufig die Akzeptanz für solche Systeme. Wenn die Menschen erkennen, dass die Technologie sie bei Ihren Tätigkeiten gut unterstützt, wird diese auch schnell angenommen. Es wird aber, wie bei allen Innovationen, natürlich Tätigkeitsfelder geben, die durch die neue Technologie obsolet werden. 

Frage: Wo sehen Sie die größten Risiken? Stichwort Deep-Fake-Videos oder Fake-Bilder? 

Antwort: Fotos oder auch Stimmen können bereits jetzt schon ohne große Fachkenntnisse so erzeugt oder manipuliert werden, dass nicht mehr einfach zwischen echt und fake unterschieden werden kann. Bei Videos ist es nur eine Frage der Zeit. Gut klingende Texte lassen sich innerhalb von Sekunden erzeugen, ungeachtet davon, ob der Inhalt wahr ist oder nicht. Wichtig ist hier die Sensibilisierung der Bevölkerung in der Breite, damit Falschinformationen nicht einfach weiterverbreitet werden. Das ist besonders im Kontext von Social-Media eine große Herausforderung, für die es meiner Meinung nach noch keine adäquaten Lösungsansätze gibt.

Frage: Besteht die Gefahr, dass Menschen irgendwann den Empfehlungen einer KI völlig unkritisch folgen? Beispielsweise in der Medizin und im Arzt-Patienten-Verhältnis? 

Antwort: Die Gefahr besteht in der Theorie natürlich. Umso wichtiger ist es, dass der Umgang mit KI-Systemen auch Teil der Ausbildung der verschiedensten Berufsbilder wird. Im Prinzip müssen wir darauf achten, das kritische Denken nicht zu verlernen.

Frage: Wie ist es möglich, die KI sinnvoll zu regulieren? Was ist Ihre Meinung dazu? 

Antwort: Eine Regulierung ist aus meiner Sicht überall da erforderlich, wo ethische Grenzen überschritten werden können und natürlich auch, wenn Leib und Leben in Gefahr gebracht werden können. In der Praxis ist das allerdings nicht so leicht umzusetzen, da ein Großteil der Werkzeuge frei verfügbar ist und zum Teil auf einfacher Hardware genutzt werden kann. Ich glaube, dass wir einen gesellschaftlichen Konsens erzielen müssen, was wir akzeptieren wollen und was nicht. Auf politischer Ebene müssen entsprechende Institutionen geschaffen werden, die interdisziplinär besetzt sind und Lösungsvorschläge erarbeiten – und das länderübergreifend. Das ist im Hinblick auf die Innovationsgeschwindigkeit im Bereich der KI kein einfaches Unterfangen.

Frage: Wo liegen die Grenzen der KI - nach heutigem Stand? Was wird in absehbarer Zeit nicht zu erreichen sein? Und wo ist der Mensch nicht zu ersetzen (zum Beispiel beim Friseur)? 

Antwort: Gerade handwerkliche Tätigkeiten, die dadurch geprägt sind, dass sich einzelne Arbeitsaufträge sich stark voneinander unterscheiden, lassen sich nur schwer automatisieren. Friseure sind da tatsächlich kein schlechtes Beispiel oder Handwerker im Allgemeinen. Allerdings können KI-Systeme bei den Nebenaufgaben in diesen Berufen unterstützen, zum Beispiel bei der Angebotserstellung oder generell der Planung. 

Frage: Problem beispielsweise von ChatGPT ist, selbst Logikfehler zu erkennen. Im Gegenteil, der Chat-Bot beharrt darauf. Wird sich das in Zukunft durch verifizierte Daten weiter verbessern oder sollte man das immer alles überprüfen, was da an Antworten kommt?

Antwort: An dieser Problematik wird aktiv geforscht, und es gibt bislang noch keine hundertprozentige Lösung. Diese sogenannten „Halluzinationen“ treten auf, weil das System die Texte sukzessive ausgehend von internen Wahrscheinlichkeitsberechnungen aufbaut. Das System kennt kein wahr und kein falsch, sondern berechnet nur, welches Wortfragment als nächstes im Text genutzt werden soll. Das funktioniert erstaunlich gut. Aber es werden auch falsche Antworten erzeugt. Ein Lösungsansatz ist die Kopplung eines Chatbots mit einer verifizierten Wissensbasis, mit der die Ausgaben überprüft werden können und beispielsweise mit Quellenangaben hinterlegt werden. Grundsätzlich sollte man bei Texten aber immer kontrollieren, ob die Quellenangaben vertrauenswürdig und korrekt sind. Das Problem bestand aber im Grunde genommen auch schon vor dem Aufkommen von ChatGPT & Co. 

Frage: Was wollen Sie den interessierten Besuchern der Nieheimer Holz- und Technologietage vermitteln? Etwas Positives, was diese mitnehmen können für Ihren Alltag? 

Antwort: Verstehen Sie KI-Tools wie ChatGPT als Werkzeuge, die uns befähigen, neue Dinge auszuprobieren und in einigen Bereich auch effizienter zu werden. Diese Werkzeuge ersetzen dabei nicht unsere Denkprozesse, sondern ergänzen diese. Bleiben Sie neugierig und probieren Sie die Systeme aus und lernen im besten Fall noch etwas dabei.

Zur Person: 

Professor Dr. Ing. Roman Dumitrescu, Jahrgang 1981, ist einer der drei Direktoren am Fraunhofer-Institut für Entwurfstechnik Mechatronik IEM und Leiter des Fachgebiets „Advanced Systems Engineering“ am Heinz Nixdorf Institut der Universität Paderborn. Sein Forschungsschwerpunkt ist die Produktentstehung von intelligenten technischen Systemen. In Personalunion ist Prof. Dumitrescu Geschäftsführer des Technologienetzwerks Intelligente Technische Systeme OstWestfalenLippe (it's OWL), verantwortet dort den Bereich Strategie, Forschung und Entwicklung, sieht sich als Vermittler zu Wirtschaft und Industrie, fördert den Transfer der Technologien vor allem in kleinen und mittleren Unternehmen.

Öffnungszeiten Holz- und Technologietage: Samstag, 2. September: 11.00-18.00 Uhr, Lichterfest (mit Eintritt): 19.00-1.00 Uhr, Sonntag, 3. September: 11.30-18.00 Uhr. 

Eintritt: Der Eintritt an beiden Tagen ist frei, Ausnahme: Lichterfest am Samstagabend. 

Weitere Infos und Anmeldung zu Vorträgen: Stadt Nieheim, Stadt- und Wirtschaftsförderung, Marktstraße 18, 33039 Nieheim, Tel.: 05274/982 150.

www.nieheim.de

Quelle: Theresa Trautmann - Stadt Nieheim - Amtsleitung Stadt- und Wirtschaftsförderung

Bildrechte: © Fraunhofer IEM/ Universität Paderborn

Anzeigen - Klickt für mehr Infos:

Klickt hier drauf für mehr Infos und zum Download unserer Apps: