Mensch-Roboter-Interaktion - Human–robot interaction

Die Mensch-Roboter-Interaktion beschäftigt sich mit der Interaktion zwischen Mensch und Roboter. Es wird von Forschern oft als HRI bezeichnet. Die Mensch-Roboter-Interaktion ist ein multidisziplinäres Feld mit Beiträgen aus der Mensch-Computer-Interaktion , der künstlichen Intelligenz , der Robotik , dem Verstehen natürlicher Sprache , dem Design und der Psychologie .

Ursprünge

Die Mensch-Roboter-Interaktion war schon vor der Existenz von Robotern ein Thema sowohl in der Science-Fiction als auch in der akademischen Spekulation. Da ein Großteil der aktiven HRI-Entwicklung von der Verarbeitung natürlicher Sprache abhängt , sind viele Aspekte der HRI Fortsetzungen der menschlichen Kommunikation , einem Forschungsgebiet, das viel älter ist als die Robotik.

Der Ursprung der HRI als eigenständiges Problem wurde 1941 von dem Autor des 20. Jahrhunderts, Isaac Asimov , in seinem Roman I, Robot, dargelegt . Er formuliert die drei Gesetze der Robotik als:

  1. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zulassen, dass ein Mensch zu Schaden kommt.
  2. Ein Roboter muss die Befehle von Menschen befolgen, es sei denn, diese Befehle würden dem Ersten Gesetz widersprechen.
  3. Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht mit dem Ersten oder Zweiten Hauptsatz kollidiert.

Diese drei Gesetze geben einen Überblick über die Ziele von Ingenieuren und Forschern für die Sicherheit im Bereich HRI, obwohl die Bereiche Roboterethik und Maschinenethik komplexer sind als diese drei Prinzipien. Im Allgemeinen priorisiert die Mensch-Roboter-Interaktion jedoch die Sicherheit von Menschen, die mit potenziell gefährlichen Robotergeräten interagieren. Lösungen für dieses Problem reichen vom philosophischen Ansatz, Roboter als ethische Agenten (Personen mit moralischer Handlungsfähigkeit) zu behandeln , bis hin zum praktischen Ansatz, Sicherheitszonen zu schaffen. Diese Sicherheitszonen verwenden Technologien wie Lidar , um die Anwesenheit von Menschen zu erkennen, oder physische Barrieren, um Menschen zu schützen, indem sie jeden Kontakt zwischen Maschine und Bediener verhindern.

Obwohl Roboter im Bereich der Mensch-Roboter-Interaktion anfangs einige menschliche Eingriffe erforderten, um zu funktionieren, hat die Forschung dies so weit ausgeweitet, dass vollständig autonome Systeme heute weitaus verbreiteter sind als in den frühen 2000er Jahren. Autonome Systeme umfassen von Simultaneous Localization and Mapping - Systeme , die intelligente Roboterbewegung liefern Verarbeitung natürlicher Sprache und natürlicher Sprache - Erzeugungssysteme , die für die natürliche, menschliche-artige Wechselwirkung ermöglichen , die gut definierte psychologische Maßstäbe erfüllen.

Anthropomorphe Roboter (Maschinen, die die menschliche Körperstruktur nachahmen) werden im Bereich der Bionik besser beschrieben , überschneiden sich jedoch in vielen Forschungsanwendungen mit der HRI. Beispiele für Roboter , die diesen Trend gehören demonstrieren Willow Garage ist PR2 Roboter , die NASA Robonaut und Honda ASIMO . Roboter im Bereich der Mensch-Roboter-Interaktion sind jedoch nicht auf menschenähnliche Roboter beschränkt: Paro und Kismet sind beide Roboter, die darauf ausgelegt sind, beim Menschen emotionale Reaktionen hervorzurufen, und fallen daher in die Kategorie der Mensch-Roboter-Interaktion.

Die Ziele im Bereich HRI reichen von industrieller Fertigung über Cobots , Medizintechnik bis hin zu Rehabilitation, Autismus-Intervention und Geräten für die Altenpflege, Unterhaltung, Human Augmentation und Human Convenience. Die zukünftige Forschung umfasst daher ein breites Feld von Feldern, von denen sich ein Großteil auf assistive Robotik, robotergestützte Suche und Rettung sowie Weltraumforschung konzentriert.

Das Ziel einer freundlichen Mensch-Roboter-Interaktion

Kismet kann eine Reihe von Gesichtsausdrücken erzeugen.

Roboter sind künstliche Agenten mit Wahrnehmungs- und Handlungsfähigkeiten in der physischen Welt, die von Forschern oft als Arbeitsraum bezeichnet wird. Ihre Verwendung wurde in Fabriken verallgemeinert, aber heutzutage findet man sie in den technisch fortschrittlichsten Gesellschaften in so kritischen Bereichen wie Suche und Rettung, militärische Schlacht, Minen- und Bombenentdeckung, wissenschaftliche Erkundung, Strafverfolgung, Unterhaltung und Krankenhausversorgung.

Diese neuen Anwendungsdomänen implizieren eine engere Interaktion mit dem Benutzer. Der Begriff der Nähe ist in seiner vollen Bedeutung zu verstehen, Roboter und Mensch teilen sich den Arbeitsraum, teilen aber auch Ziele in Bezug auf die Aufgabenerfüllung. Diese enge Interaktion erfordert neue theoretische Modelle, einerseits für die Robotik-Wissenschaftler, die daran arbeiten, den Nutzen der Roboter zu verbessern, und andererseits, um die Risiken und Vorteile dieses neuen "Freundes" für unsere moderne Gesellschaft zu bewerten.

Mit dem Fortschritt in der KI konzentriert sich die Forschung einerseits auf die sicherste physische Interaktion, aber auch auf eine sozial korrekte Interaktion, abhängig von kulturellen Kriterien. Ziel ist es, eine intuitive und einfache Kommunikation mit dem Roboter durch Sprache, Gestik und Mimik aufzubauen.

Kerstin Dautenhahn bezeichnet die freundliche Mensch-Roboter-Interaktion als "Robotiquette" und definiert sie als die "sozialen Regeln für ein für den Menschen angenehmes und akzeptables Roboterverhalten (eine 'Robotiquette')". Aufträge und nicht das Gegenteil. Aber alltägliche Umgebungen wie Häuser haben viel komplexere soziale Regeln als die von Fabriken oder sogar militärischen Umgebungen. Daher benötigt der Roboter Wahrnehmungs- und Verständnisfähigkeiten, um dynamische Modelle seiner Umgebung zu erstellen. Es muss Objekte kategorisieren , Menschen erkennen und lokalisieren und ihre Emotionen weiter erkennen . Der Bedarf an dynamischen Kapazitäten treibt alle Teilbereiche der Robotik voran.

Darüber hinaus können Roboter durch das Verstehen und Wahrnehmen sozialer Hinweise kollaborative Szenarien mit Menschen ermöglichen. Mit dem rasanten Aufstieg von persönlichen Fertigungsmaschinen wie Desktop- 3D-Druckern , Laserschneidern usw. Industrieroboter sind bereits in industrielle Montagelinien integriert und arbeiten kollaborativ mit dem Menschen zusammen. Die sozialen Auswirkungen solcher Roboter wurden untersucht und haben gezeigt, dass Arbeiter immer noch Roboter und soziale Einheiten behandeln und sich auf soziale Hinweise verlassen, um zu verstehen und zusammenzuarbeiten.

Am anderen Ende der HRI-Forschung kommt die kognitive Modellierung der "Beziehung" zwischen Mensch und Roboter den Psychologen und Roboterforschern zugute, die Nutzerstudie ist oft von beiderseitigem Interesse. Diese Forschung bemüht sich um einen Teil der menschlichen Gesellschaft. Für eine effektive Mensch-Humanoid-Roboter- Interaktion sollten zahlreiche Kommunikationsfähigkeiten und verwandte Funktionen in das Design solcher künstlichen Agenten/Systeme implementiert werden.

Allgemeine HRI-Forschung

Die HRI-Forschung umfasst ein breites Spektrum von Bereichen, von denen einige die Natur der HRI betreffen.

Methoden zur Menschenwahrnehmung

Methoden zur Wahrnehmung des Menschen in der Umwelt basieren auf Sensorinformationen. Die von Microsoft geleitete Forschung zu Sensorkomponenten und -software liefert nützliche Ergebnisse zur Extraktion der menschlichen Kinematik (siehe Kinect ). Ein Beispiel für eine ältere Technik ist die Verwendung von Farbinformationen, zum Beispiel die Tatsache, dass bei hellhäutigen Menschen die Hände heller sind als die getragene Kleidung. In jedem Fall kann dann ein a priori modellierter Mensch an die Sensordaten angepasst werden. Der Roboter baut oder besitzt (je nach Autonomiegrad des Roboters) eine 3D- Kartierung seiner Umgebung , der die Orte des Menschen zugeordnet sind.

Die meisten Methoden beabsichtigen , ein 3D-Modell durch Sicht der Umgebung zu erstellen . Die Propriozeptionssensoren ermöglichen es dem Roboter, Informationen über seinen eigenen Zustand zu erhalten. Diese Informationen beziehen sich auf eine Referenz.

Ein Spracherkennungssystem wird verwendet, um menschliche Wünsche oder Befehle zu interpretieren. Durch die Kombination der durch Propriozeption, Sensor und Sprache abgeleiteten Informationen wird die Position und der Zustand des Menschen (stehend, sitzend) ermittelt. In diesem Zusammenhang befasst sich Natural Language Processing mit den Interaktionen zwischen Computern und menschlichen (natürlichen) Sprachen, insbesondere mit der Programmierung von Computern, um große Mengen natürlichsprachlicher Daten zu verarbeiten und zu analysieren . Zum Beispiel neuronale Netzwerkarchitekturen und Lernalgorithmen, die auf verschiedene Aufgaben der Verarbeitung natürlicher Sprache angewendet werden können, einschließlich Part-of-Speech-Tagging, Chunking, Named -Entity-Erkennung und semantische Rollenkennzeichnung .

Methoden zur Bewegungsplanung

Die Bewegungsplanung in dynamischen Umgebungen ist eine Herausforderung, die derzeit nur für Roboter mit 3 bis 10 Freiheitsgraden zu bewältigen ist . Humanoide Roboter oder auch 2-armige Roboter, die bis zu 40 Freiheitsgrade haben können, sind mit heutiger Technik für dynamische Umgebungen ungeeignet. Unterdimensionale Roboter können jedoch die Potenzialfeldmethode verwenden, um Trajektorien zu berechnen, die Kollisionen mit Menschen vermeiden.

Kognitive Modelle und Theorie des Geistes

Menschen zeigen negative soziale und emotionale Reaktionen sowie ein vermindertes Vertrauen gegenüber einigen Robotern, die Menschen stark, aber unvollkommen ähneln; Dieses Phänomen wurde als "Uncanny Valley" bezeichnet. Jüngste Forschungen zu Telepräsenzrobotern haben jedoch ergeben, dass die Nachahmung menschlicher Körperhaltungen und ausdrucksstarker Gesten die Roboter sympathisch und in einer abgelegenen Umgebung engagiert hat. Außerdem wurde die Anwesenheit eines menschlichen Operators beim Testen mit einem androiden oder humanoiden Telepräsenzroboter stärker wahrgenommen als bei einer normalen Videokommunikation über einen Monitor.

Obwohl es immer mehr Forschungen über die Wahrnehmungen und Emotionen von Benutzern gegenüber Robotern gibt, sind wir noch weit von einem vollständigen Verständnis entfernt. Nur zusätzliche Experimente werden ein genaueres Modell bestimmen.

Basierend auf früheren Untersuchungen haben wir einige Hinweise auf die aktuelle Benutzerstimmung und das Verhalten rund um Roboter:

  • Während der ersten Interaktionen sind die Menschen unsicherer, erwarten weniger soziale Präsenz, haben weniger positive Gefühle, wenn sie an die Interaktion mit Robotern denken, und bevorzugen die Kommunikation mit einem Menschen. Dieses Ergebnis wurde als Mensch-zu-Mensch-Interaktionsskript bezeichnet.
  • Es wurde beobachtet, dass der Benutzer manchmal Angst äußert, wenn der Roboter ein proaktives Verhalten ausführt und einen "Sicherheitsabstand" nicht einhält (durch Eindringen in den Benutzerraum). Diese Angstreaktion ist personenabhängig.
  • Es hat sich auch gezeigt, dass, wenn ein Roboter keinen besonderen Nutzen hat, oft negative Gefühle geäußert werden. Der Roboter wird als nutzlos wahrgenommen und seine Anwesenheit nervt.
  • Es wurde auch gezeigt, dass Menschen dem Roboter Persönlichkeitsmerkmale zuschreiben, die nicht in Software implementiert wurden.
  • Menschen folgern in ähnlicher Weise die mentalen Zustände von Menschen und Robotern, außer wenn Roboter und Menschen nicht wörtliche Sprache verwenden (wie Sarkasmus oder Notlügen).
  • In Übereinstimmung mit der Kontakthypothese kann die überwachte Exposition gegenüber einem sozialen Roboter die Unsicherheit verringern und die Bereitschaft zur Interaktion mit dem Roboter erhöhen, verglichen mit der Einstellung gegenüber Robotern als einer Klasse von Agenten vor der Exposition.
  • Die Interaktion mit einem Roboter durch Betrachten oder Berühren des Roboters kann negative Gefühle reduzieren, die manche Menschen gegenüber Robotern haben, bevor sie mit ihnen interagieren. Sogar eingebildete Interaktion kann negative Gefühle reduzieren. In einigen Fällen kann die Interaktion mit einem Roboter jedoch negative Gefühle bei Menschen mit bereits bestehenden starken negativen Gefühlen gegenüber Robotern verstärken.

Methoden zur Mensch-Roboter-Koordination

Eine umfangreiche Arbeit im Bereich der Mensch-Roboter-Interaktion hat sich mit der Frage beschäftigt, wie Mensch und Roboter besser zusammenarbeiten können. Das primäre soziale Signal für Menschen bei der Zusammenarbeit ist die gemeinsame Wahrnehmung einer Aktivität. Zu diesem Zweck haben Forscher die vorausschauende Robotersteuerung durch verschiedene Methoden untersucht, darunter: Überwachung des Verhaltens menschlicher Partner mithilfe von Eye-Tracking , Rückschlüsse auf die menschliche Aufgabenabsicht und proaktives Handeln seitens des Roboters. Die Studien zeigten, dass die vorausschauende Kontrolle den Benutzern half, Aufgaben schneller zu erledigen als mit der reaktiven Kontrolle allein.

Ein gängiger Ansatz, um soziale Hinweise in Roboter zu programmieren, besteht darin, zuerst das Mensch-Mensch-Verhalten zu untersuchen und dann das Gelernte zu übertragen. Koordinationsmechanismen in der Mensch-Roboter-Kollaboration basieren beispielsweise auf neurowissenschaftlichen Arbeiten, die untersucht haben, wie gemeinsames Handeln in der Mensch-Mensch-Konfiguration ermöglicht wird, indem Wahrnehmung und Handeln in einem sozialen Kontext und nicht isoliert untersucht werden. Diese Studien haben gezeigt, dass die Aufrechterhaltung einer gemeinsamen Repräsentation der Aufgabe entscheidend für die Erledigung von Aufgaben in Gruppen ist. Die Autoren haben beispielsweise die Aufgabe des gemeinsamen Fahrens untersucht, indem sie die Zuständigkeiten für Beschleunigung und Bremsung getrennt haben, dh eine Person ist für das Beschleunigen und die andere für das Bremsen verantwortlich; Die Studie ergab, dass Paare nur dann das gleiche Leistungsniveau wie Einzelpersonen erreichten, wenn sie Feedback über das Timing der Aktionen des anderen erhielten. In ähnlicher Weise haben Forscher den Aspekt der Mensch-Mensch-Übergabe mit Haushaltsszenarien wie dem Passieren von Tellern untersucht, um eine adaptive Steuerung derselben bei Mensch-Roboter-Übergaben zu ermöglichen. Eine weitere Studie im Bereich Human Factors und Ergonomie von Mensch-Mensch-Übergaben in Lagerhäusern und Supermärkten zeigt, dass Geber und Empfänger Übergabeaufgaben unterschiedlich wahrnehmen, was erhebliche Auswirkungen auf die Gestaltung benutzerzentrierter kollaborativer Mensch-Roboter- Systeme hat. In jüngster Zeit haben Forscher ein System untersucht, das Montageaufgaben automatisch auf Mitarbeiter am gleichen Standort verteilt, um die Koordination zu verbessern.

Anwendungsbereiche

Zu den Anwendungsgebieten der Mensch-Roboter-Interaktion gehören Robotertechnologien, die der Mensch unter anderem für Industrie, Medizin und Gesellschaft nutzt.

Industrieroboter

Dies ist ein Beispiel für den kollaborativen Industrieroboter Sawyer, der in der Fabrik mit Menschen zusammenarbeitet.

Industrieroboter wurden implementiert, um mit Menschen zusammenzuarbeiten, um industrielle Fertigungsaufgaben auszuführen. Während Menschen die Flexibilität und Intelligenz haben, verschiedene Ansätze zur Lösung des Problems in Betracht zu ziehen, die beste Option aus allen Optionen auszuwählen und dann Robotern zu befehlen, zugewiesene Aufgaben auszuführen, sind Roboter in der Lage, sich wiederholende und gefährliche Arbeiten präziser und konsistenter auszuführen . Zusammen zeigt die Zusammenarbeit von Industrierobotern und Menschen, dass Roboter die Fähigkeit besitzen, eine effiziente Fertigung und Montage zu gewährleisten . Es gibt jedoch anhaltende Bedenken hinsichtlich der Sicherheit der Mensch-Roboter-Kollaboration, da Industrieroboter in der Lage sind, schwere Gegenstände zu bewegen und oft gefährliche und scharfe Werkzeuge schnell und mit Gewalt zu bedienen. Infolgedessen stellt dies eine potenzielle Bedrohung für die Personen dar, die im selben Arbeitsbereich arbeiten.

Medizinische Roboter

Rehabilitation

Forscher der Universität in Texas demonstrierten einen Rehabilitationsroboter, der Handbewegungen unterstützt.

Ein Rehabilitationsroboter ist ein Beispiel für ein robotergestütztes System, das im Gesundheitswesen eingesetzt wird . Diese Art von Roboter würde Schlaganfallüberlebenden oder Personen mit neurologischen Beeinträchtigungen helfen, ihre Hand- und Fingerbewegungen wiederherzustellen. In den letzten Jahrzehnten war die Idee, wie Mensch und Roboter miteinander interagieren, ein Faktor, der bei der Entwicklung von Rehabilitationsrobotern vielfach berücksichtigt wurde. Beispielsweise spielt die Mensch-Roboter-Interaktion eine wichtige Rolle bei der Entwicklung von Exoskelett- Rehabilitationsrobotern, da das Exoskelett-System direkten Kontakt mit dem menschlichen Körper hat.

Altenpflege- und Begleitroboter

Pflegeroboter sollen älteren Menschen helfen , die möglicherweise mit einem Rückgang ihrer körperlichen und kognitiven Funktionen konfrontiert waren und infolgedessen psychosoziale Probleme entwickelt haben. Durch die Unterstützung bei täglichen körperlichen Aktivitäten würde die körperliche Unterstützung durch die Roboter den älteren Menschen ein Gefühl der Autonomie geben und das Gefühl haben, dass sie immer noch in der Lage sind, für sich selbst zu sorgen und in ihren eigenen vier Wänden zu bleiben.

Dies ist eine Ausstellung im Science Museum, London, die die Roboter für Autismus-Kinder als Spielzeug zeigt, in der Hoffnung, Autismus-Kindern dabei zu helfen, soziale Hinweise aus dem Gesichtsausdruck zu erkennen.

Soziale Roboter

Autismus-Intervention

In den letzten zehn Jahren hat die Mensch-Roboter-Interaktion vielversprechende Ergebnisse bei der Autismus-Intervention gezeigt. Kinder mit Autismus-Spektrum-Störungen ( ASS ) verbinden sich eher mit Robotern als mit Menschen, und der Einsatz sozialer Roboter wird als vorteilhafter Ansatz angesehen, um diesen Kindern mit ASS zu helfen. Allerdings werden soziale Roboter, die verwendet werden, um bei ASS-Interventionen bei Kindern zu intervenieren, von klinischen Gemeinschaften nicht als praktikable Behandlung angesehen, da die Untersuchung des Einsatzes sozialer Roboter bei ASS-Interventionen oft nicht dem Standardforschungsprotokoll folgt. Darüber hinaus konnten die Forschungsergebnisse keinen konsistenten positiven Effekt nachweisen, der auf Grundlage der klinisch-systematischen Bewertung als evidenzbasierte Praxis (EBP) angesehen werden könnte. Infolgedessen haben die Forscher damit begonnen, Richtlinien zu erstellen, die vorschlagen, wie Studien mit robotervermittelten Interventionen durchzuführen sind und somit zuverlässige Daten liefern, die als EBP behandelt werden könnten, die es Klinikern ermöglichen würden, Roboter bei ASS-Interventionen einzusetzen.

Rehabilitation

Roboter können als kollaborativer Roboter konfiguriert werden und können zur Rehabilitation von Benutzern mit motorischen Einschränkungen verwendet werden. Mit verschiedenen interaktiven Technologien wie automatischer Spracherkennung , Blickverfolgung usw. können Benutzer mit motorischen Einschränkungen Roboteragenten steuern und sie für Rehabilitationsaktivitäten wie elektrische Rollstuhlsteuerung, Objektmanipulation usw. verwenden.

Automatisches Fahren

Ein konkretes Beispiel für die Mensch-Roboter-Interaktion ist die Mensch-Fahrzeug-Interaktion beim automatisierten Fahren. Ziel der Mensch-Fahrzeug-Kooperation ist es, Sicherheit und Komfort in automatisierten Fahrsystemen zu gewährleisten . Die kontinuierliche Verbesserung dieses Systems und die Weiterentwicklung zu hoch- und vollautomatisierten Fahrzeugen zielen darauf ab, das Fahrerlebnis sicherer und effizienter zu gestalten, bei dem der Mensch bei einem unerwarteten Fahrzustand wie einem Fußgänger nicht in den Fahrprozess eingreifen muss über die Straße gehen, wenn es nicht soll.

Diese Drohne ist ein Beispiel für UAV, mit dem beispielsweise eine vermisste Person im Berg lokalisiert werden könnte.

Suchen und retten

Unbemannte Luftfahrzeuge (UAV) und unbemannte Unterwasserfahrzeuge (UUV) haben das Potenzial, Such- und Rettungsarbeiten in Wildnisgebieten zu unterstützen , z. Das System integriert Autonomie und Informationen wie Abdeckungskarten , GPS-Informationen und hochwertige Suchvideos, um Menschen bei der effizienten Durchführung der Such- und Rettungsarbeiten in der vorgegebenen begrenzten Zeit zu unterstützen.

Das Projekt "Moonwalk" soll die bemannte Mission zum Mars simulieren und die Roboter-Astronauten-Kooperation in einer analogen Umgebung testen.

Weltraumforschung

Die Menschheit hat daran gearbeitet, den nächsten Durchbruch in der Weltraumforschung zu erzielen, wie beispielsweise eine bemannte Mission zum Mars. Diese Herausforderung hat die Notwendigkeit aufgezeigt, planetarische Rover zu entwickeln, die Astronauten unterstützen und ihren Betrieb während ihrer Mission unterstützen können. Die Zusammenarbeit zwischen Rovern, unbemannten Luftfahrzeugen und Menschen ermöglicht die Nutzung von Fähigkeiten von allen Seiten und optimiert die Aufgabenleistung.

Siehe auch

Robotik

Technologie

Psychologie

Eigenschaften

Bartneck und Okada schlagen vor, dass eine robotische Benutzeroberfläche durch die folgenden vier Eigenschaften beschrieben werden kann:

Werkzeug – Spielzeugwaage
  • Ist das System darauf ausgelegt, ein Problem effektiv zu lösen oder dient es nur der Unterhaltung?
Fernbedienung – autonome Waage
  • Benötigt der Roboter eine Fernbedienung oder ist er ohne direkten menschlichen Einfluss handlungsfähig?
Reaktiv – Dialogskala
  • Ist der Roboter auf ein festes Interaktionsmuster angewiesen oder ist er in der Lage, mit einem Menschen einen Dialog – also einen Informationsaustausch – zu führen?
Anthropomorphismus-Skala
  • Hat es die Form oder Eigenschaften eines Menschen?

Konferenzen

ACE – International Conference on Future Applications of AI, Sensors, and Robotics in Society

Die International Conference on Future Applications of AI, Sensors, and Robotics in Society untersucht den Stand der Forschung und beleuchtet die zukünftigen Herausforderungen sowie das verborgene Potenzial der Technologien. Die akzeptierten Beiträge zu dieser Konferenz werden jährlich in der Sonderausgabe des Journal of Future Robot Life veröffentlicht.

Internationale Konferenz für soziale Robotik

Die International Conference on Social Robotics ist eine Konferenz für Wissenschaftler, Forscher und Praktiker, um über die neuesten Fortschritte ihrer Spitzenforschung und Ergebnisse in der sozialen Robotik sowie über die Interaktion mit dem Menschen und die Integration in unsere Gesellschaft zu berichten und zu diskutieren.

  • ICSR2009, Incheon, Korea in Zusammenarbeit mit dem FIRA RoboWorld Congress
  • ICSR2010, Singapur
  • ICSR2011, Amsterdam, Niederlande

Internationale Konferenz über persönliche Mensch-Roboter-Beziehungen

Internationaler Kongress über Liebe und Sex mit Robotern

Der International Congress on Love and Sex with Robots ist ein jährlicher Kongress, der ein breites Themenspektrum wie KI, Philosophie, Ethik, Soziologie, Ingenieurwissenschaften, Informatik, Bioethik einlädt und fördert.

Die frühesten wissenschaftlichen Arbeiten zu diesem Thema wurden 2006 im EC Euron Roboethics Atelier, organisiert von der School of Robotics in Genua, präsentiert, ein Jahr später folgte das erste Buch – „Love and Sex with Robots“ – herausgegeben von Harper Collins in New York . Seit dieser anfänglichen wissenschaftlichen Aktivität auf diesem Gebiet hat das Thema erheblich an Breite und weltweitem Interesse zugenommen. Im Zeitraum 2008-2010 fanden in den Niederlanden drei Konferenzen zu Mensch-Roboter-Beziehungen statt, die jeweils von renommierten wissenschaftlichen Verlagen, darunter dem Springer-Verlag, veröffentlicht wurden. Nach einer Pause bis 2014 wurden die Konferenzen in „International Congress on Love and Sex with Robots“ umbenannt, die zuvor 2014 an der Universität Madeira stattfanden; in London 2016 und 2017; und in Brüssel im Jahr 2019. Darüber hinaus veröffentlichte der Springer-Verlag "International Journal of Social Robotics" bis 2016 Artikel zu diesem Thema, und 2012 wurde eine Open-Access-Zeitschrift namens "Lovotics" gestartet, die sich ganz dem Thema widmete . Auch in den letzten Jahren ist das Interesse durch eine verstärkte Berichterstattung über das Thema in Printmedien, TV-Dokumentationen und Spielfilmen sowie in der Wissenschaft stark gestiegen.

Der International Congress on Love and Sex with Robots bietet Wissenschaftlern und Fachleuten aus der Industrie eine hervorragende Gelegenheit, ihre innovativen Arbeiten und Ideen in einem akademischen Symposium vorzustellen und zu diskutieren.

  • 2020, Berlin, Deutschland
  • 2019, Brüssel, Belgien
  • 2017, London, Vereinigtes Königreich
  • 2016, London, Vereinigtes Königreich
  • 2014, Madeira, Portugal

Internationales Symposium zu neuen Grenzen der Mensch-Roboter-Interaktion

Dieses Symposium wird in Zusammenarbeit mit der Jahrestagung der Society for the Study of Artificial Intelligence and Simulation of Behaviour organisiert.

  • 2015, Canterbury, Großbritannien
  • 2014, London, Vereinigtes Königreich
  • 2010, Leicester, Großbritannien
  • 2009, Edinburgh, Vereinigtes Königreich

IEEE International Symposium in Robot and Human Interactive Communication

Das IEEE International Symposium on Robot and Human Interactive Communication ( RO-MAN ) wurde 1992 von Profs. Toshio Fukuda, Hisato Kobayashi, Hiroshi Harashima und Fumio Hara. Die ersten Workshop-Teilnehmer waren hauptsächlich Japaner, und die ersten sieben Workshops fanden in Japan statt. Seit 1999 wurden Workshops in Europa und den USA sowie in Japan abgehalten, mit internationaler Beteiligung.

Internationale ACM/IEEE-Konferenz zur Mensch-Roboter-Interaktion

Hauptartikel: Internationale Konferenz zur Mensch-Roboter-Interaktion

Diese Konferenz gehört zu den besten Konferenzen im Bereich HRI und hat einen sehr selektiven Begutachtungsprozess. Die durchschnittliche Annahmequote liegt bei 26% und die durchschnittliche Besucherzahl bei 187. Rund 65% der Beiträge zur Konferenz kommen aus den USA und die hohe Qualität der Einreichungen zur Konferenz wird durch den Durchschnitt von 10 Zitierungen sichtbar, die das HRI bisher angezogene Papiere.

  • HRI 2006 in Salt Lake City , Utah, USA, Akzeptanzrate: 0,29
  • HRI 2007 in Washington, DC , USA, Akzeptanzrate: 0,23
  • HRI 2008 in Amsterdam , Niederlande, Akzeptanzrate: 0,36 (0,18 für mündliche Präsentationen)
  • HRI 2009 in San Diego , CA, USA, Akzeptanzrate: 0,19
  • HRI 2010 in Osaka , Japan, Akzeptanzrate: 0,21
  • HRI 2011 in Lausanne , Schweiz, Akzeptanzrate: 0,22 für vollständige Papiere
  • HRI 2012 in Boston , Massachusetts, USA, Akzeptanzrate: 0,25 für vollständige Papiere
  • HRI 2013 in Tokio , Japan, Akzeptanzrate: 0,24 für vollständige Papiere
  • HRI 2014 in Bielefeld , Deutschland, Akzeptanzrate: 0,24 für vollständige Papiere
  • HRI 2015 in Portland, Oregon , USA, Akzeptanzrate: 0,25 für vollständige Papiere
  • HRI 2016 in Christchurch , Neuseeland, Akzeptanzrate: 0,25 für vollständige Papiere
  • HRI 2017 in Wien , Österreich, Akzeptanzrate: 0,24 für vollständige Papiere
  • HRI 2018 in Chicago , USA, Akzeptanzrate: 0,24 für vollständige Papiere
  • HRI 2021 in Boudler , USA, Akzeptanzrate: 0,23 für vollständige Papiere

Internationale Konferenz zur Mensch-Agenten-Interaktion

  • HAI 2013 in Sapporo , Japan
  • HAI 2014 in Tsukuba , Japan
  • HAI 2015 in Daegu , Korea
  • HAI 2016 in Singapur
  • HAI 2017 in Bielefeld , Deutschland

Verwandte Konferenzen

Es gibt viele Konferenzen, die nicht ausschließlich auf HRI ausgerichtet sind, sondern sich mit breiten Aspekten von HRI befassen und häufig HRI-Papiere präsentieren.

  • IEEE-RAS/RSJ International Conference on Humanoid Robots (Humanoids)
  • Ubiquitäres Computing (UbiComp)
  • Internationale IEEE/RSJ-Konferenz über intelligente Roboter und Systeme (IROS)
  • Intelligente Benutzeroberflächen (IUI)
  • Computer-Mensch-Interaktion (CHI)
  • Amerikanische Vereinigung für Künstliche Intelligenz (AAAI)
  • INTERAGIEREN

Zeitschriften

Derzeit gibt es zwei dedizierte HRI Journals

  • ACM-Transaktionen zur Mensch-Roboter-Interaktion (ursprünglich Journal of Human-Robot Interaction)
  • Internationale Zeitschrift für soziale Robotik

und es gibt mehrere allgemeinere Zeitschriften, in denen man HRI-Artikel findet.

Bücher

Es gibt mehrere Bücher, die sich auf die Mensch-Roboter-Interaktion spezialisiert haben. Obwohl es mehrere Redaktionsbücher gibt, sind nur wenige dedizierte Texte verfügbar:

  • Mensch-Roboter-Interaktion - Eine Einführung von Christoph Bartneck, Tony Belpaeme, Friederike Eyssel, Takayuki Kanda, Merel Keijsers, Selma Šabanović, Cambridge University Press (PDF ist kostenlos verfügbar)
  • Mensch-Roboter-Interaktion in der sozialen Robotik von Takayuki Kanda & Hiroshi Ishiguro, CRC Press
  • Social Robotics von Breazeal C., Dautenhahn K., Kanda T., Springer (Kapitel in einem umfangreichen Handbuch)

Kurse

Viele Universitäten bieten Kurse zur Mensch-Roboter-Interaktion an.

Universitätskurse und -abschlüsse

  • University of Waterloo, Kanada, Kerstin Dautenhahn, Social Robotics – Foundations, Technology and Applications of Human-Centered Robotics
  • National Taipei University in Taiwan, Taiwan, Hooman Samani, M5226 Advanced Robotics
  • Ontario Tech University, Kanada, Patrick CK Hung, BUSI4590U Themen in Technologiemanagement und INFR 4599U Serviceroboter-Innovation für den Handel
  • The Colorado School of Mines, USA, Tom Williams, CSCI 436 / 536: Mensch-Roboter-Interaktion
  • Heriot-Watt University, Großbritannien, Lynne Baillie, F21HR Mensch-Roboter-Interaktion
  • Universität Uppsala, Schweden, Filip Malmberg, UU-61611 Soziale Robotik und Mensch-Roboter-Interaktion
  • Universität Skövde, Schweden, MSc Mensch-Roboter-Interaktionsprogramm
  • Indiana University Bloomington, USA, Selma Sabanovic, INFO-I 440 Mensch-Roboter-Interaktion
  • Universität Gent, Belgien, Tony Belpaeme, E019370A Robotikmodul
  • Universität Bielefeld, Deutschland, Frederike Eyssel, 270037 Sozialpsychologische Aspekte der Mensch-Maschine Interaktion
  • Universität Kyoto, Japan, Takayuki Kanda, 3218000 Mensch-Roboter-Interaktion (ヒューマンロボットインタラクション)

Online-Kurse und -Abschlüsse

Es gibt auch Online-Kurse wie Mooc :

  • edX - University of Canterbury (UCx), professionelles Zertifikat in Mensch-Roboter-Interaktion
    • Einführung in die Mensch-Roboter-Interaktion
    • Methoden und Anwendung in der Mensch-Roboter-Interaktion

Fußnoten

  1. ^ Asimov, Isaac (1950). "Herumlaufen". Ich, Roboter (The Isaac Asimov Collection Hrsg.). New York City: Doppeltag. P. 40. ISBN 978-0-385-42304-5. Dies ist eine genaue Transkription der Gesetze. Sie erscheinen auch am Anfang des Buches, und an beiden Stellen gibt es im 2. Gesetz kein "zu". Beachten Sie, dass dieses Snippet von Three Laws of Robotics kopiert und eingefügt wurde
  2. ^ Hornbeck, Dan (2008-08-21). "Sicherheit in der Automatisierung" . www.maschinendesign.com . Abgerufen 2020-06-12 .
  3. ^ Scholz, Jean. „Bewertungsmethoden für die Mensch-System-Performance intelligenter Systeme“. Proceedings of the 2002 Performance Metrics for Intelligent Systems (PerMIS) Workshop . doi : 10.1007/s10514-006-9016-5 . S2CID  31481065 .
  4. ^ Kahn, Peter H.; Ishiguro, Hiroshi; Friedman, Batya; Kanda, Takayuki (2006-09-08). "Was ist ein Mensch? - Auf dem Weg zu psychologischen Benchmarks im Bereich der Mensch-Roboter-Interaktion". ROMAN 2006 - das 15. Internationale IEEE-Symposium für Roboter- und menschliche interaktive Kommunikation : 364–371. doi : 10.1109/ROMAN.2006.314461 . ISBN 1-4244-0564-5. S2CID  10368589 .
  5. ^ "CNN.com - Treffen Sie Paro, die therapeutische Roboterrobbe - 20. November 2003" . www.cnn.com . Abgerufen 2020-06-12 .
  6. ^ "Die Zukunft der Mensch-Roboter-Interaktion" . als.cornell.edu . Abgerufen 2020-06-12 .
  7. ^ „3: Entstehung von HRI als Feld | Mensch-Roboter-Interaktion“ . Abgerufen 2020-06-12 .
  8. ^ Dautenhahn, Kerstin ( 29.04.2007 ). „Sozialintelligente Roboter: Dimensionen der Mensch-Roboter-Interaktion“ . Philosophische Transaktionen der Royal Society B: Biologische Wissenschaften . 362 (1480): 679–704. doi : 10.1098/rstb.2006.2004 . PMC  2346526 . PMID  17301026 .
  9. ^ Sauppé, Allison; Mutlu, Bilge (2015). „Der soziale Einfluss eines Roboter-Mitarbeiters in industriellen Umgebungen“. Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems - CHI '15 . S. 3613–3622. doi : 10.1145/2702123.2702181 . ISBN 978-1-4503-3145-6. S2CID  3136657 .
  10. ^ „Mensch-Roboter-Interaktion“ – über www.interaction-design.org.
  11. ^ Bubaš, Goran; Lovrenčić, Alen (2002). Implikationen der interpersonellen Kommunikationskompetenzforschung zur Gestaltung künstlicher Verhaltenssysteme, die mit Menschen interagieren . Proceedings of the 6th International Conference on Intelligent Engineering Systems - INES 2002.
  12. ^ Collobert, Ronan; Weston, Jason; Bottou, Leon; Karlen, Michael; Kavukcuoglu, Koray; Kuksa, Pawel (2011). Natural Language Processing (fast) von Grund auf neu . OCLC-  963993063 .
  13. ^ Mathur, Maya B.; Reichling, David B. (2016). "Mit Roboterpartnern durch eine soziale Welt navigieren: eine quantitative Kartographie des Uncanny Valley" . Erkenntnis . 146 : 22–32. doi : 10.1016/j.cognition.2015.09.008 . PMID  26402646 .
  14. ^ Adalgeirsson, Sigurdur; Breazeal, Cynthia (2010). MeBot: Eine Roboterplattform für sozial verkörperte Präsenz (pdf) . Proceedings of the 5th ACM/IEEE International Conference on Human-Robot Interaction. Hri '10. S. 15–22. ISBN 9781424448937.
  15. ^ Sakamoto, Daisuke; Kanda, Takayuki; Ono, Tetsuo; Ishiguro, Hiroshi; Hagita, Norihiro (2007). „Android als Telekommunikationsmedium mit menschenähnlicher Präsenz“. Fortsetzung der internationalen ACM/IEEE-Konferenz zur Mensch-Roboter-Interaktion - HRI '07 . P. 193. doi : 10.1145/1228716.1228743 . ISBN 978-1-59593-617-2. S2CID  1093338 .
  16. ^ Spence, Patric R.; Westermann, David; Edwards, Tschad; Edwards, Herbst (Juli 2014). „Begrüßung unserer Roboter-Overlords: Erste Erwartungen an die Interaktion mit einem Roboter“. Kommunikationsforschungsberichte . 31 (3): 272–280. doi : 10.1080/08824096.2014.924337 . S2CID  144545474 .
  17. ^ Edwards, Tschad; Edwards, Herbst; Spence, Patric R.; Westerman, David (21. Dezember 2015). „Erste Interaktionserwartungen mit Robotern: Testen des Mensch-zu-Mensch-Interaktionsskripts“ . Kommunikationswissenschaft . 67 (2): 227–238. doi : 10.1080/10510974.2015.1121899 . S2CID  146204935 .
  18. ^ Banken, Jaime (2021-01-28). „Gleichgesinnt: Die (meist) ähnliche Mentalisierung von Robotern und Menschen“ . Technologie, Geist und Verhalten . 1 (2). doi : 10.1037/tmb0000025 .
  19. ^ Pettigrew, TF; Tropp, LR (2006). „Ein meta-analytischer Test der Intergruppen-Kontakttheorie“. Zeitschrift für Persönlichkeits- und Sozialpsychologie . 90 (5): 751. doi : 10.1037/0022-3514.90.5.751 .
  20. ^ Haggadone, Brad A.; Banken, Jaime; Koban, Kevin (2021-04-07). „Von Robotern und Robotern: Erweiterung der Intergruppen-Kontakttheorie auf soziale Maschinen“. Kommunikationsforschungsberichte . doi : 10.1080/08824096.2021.1909551 .
  21. ^ Wullenkord, Ricarda; Fraune, Marlena R.; Eyssel, Friederike; abanović, Selma (August 2016). "In Kontakt treten: Wie sich vorgestellter, tatsächlicher und physischer Kontakt auf die Bewertung von Robotern auswirkt". 2016 25. IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN) : 980–985. doi : 10.1109/ROMAN.2016.7745228 .
  22. ^ "Vorausschauende Robotersteuerung für eine effiziente Mensch-Roboter-Kollaboration" (pdf) . HRI '16: Die elfte internationale ACM/IEEE-Konferenz zur Mensch-Roboter-Interaktion . 2016. S. 83–90. ISBN 9781467383707.
  23. ^ Roy, Someshwar; Edan, Yael (2018-03-27). "Untersuchung der gemeinsamen Aktion bei sich wiederholenden Übergabeaufgaben in kurzen Zyklen: Die Rolle des Gebers im Vergleich zum Empfänger und ihre Auswirkungen auf das kollaborative Systemdesign zwischen Mensch und Roboter". Internationale Zeitschrift für soziale Robotik . 12 (5): 973–988. doi : 10.1007/s12369-017-0424-9 . ISSN  1875-4805 . S2CID  149855145 .
  24. ^ Koordinationsmechanismen in der Mensch-Roboter-Kollaboration . Proceedings of the ACM/IEEE International Conference on Human-Robot Interaction. 2013. CiteSeerX  10.1.1.478.3634 .
  25. ^ Sebanz, Natalie; Bekkering, Harold; Knoblich, Günther (Februar 2006). "Gemeinsames Handeln: Körper und Geist bewegen sich zusammen". Trends in den Kognitionswissenschaften . 10 (2): 70–76. doi : 10.1016/j.tics.2005.12.009 . PMID  16406326 . S2CID  1781023 .
  26. ^ Huang, Chien-Ming; Cakmak, Maya; Mutlu, Bilge (2015). Adaptive Koordinationsstrategien für Mensch-Roboter-Übergaben (PDF) . Robotik: Wissenschaft und Systeme.
  27. ^ Someshwar, Roy; Edan, Yael (2017-08-30). "Geber & Empfänger nehmen Übergabeaufgaben unterschiedlich wahr: Implikationen für das kollaborative Systemdesign Mensch-Roboter". arXiv : 1708.06207 [ cs.HC ].
  28. ^ "WeBuild: Automatisches Verteilen von Montageaufgaben auf die zusammengeschlossenen Arbeiter, um die Koordination zu verbessern". CHI '17: Proceedings of the CHI Conference on Human Factors in Computing Systems 2017 . Verband für Rechenmaschinen. 2017. doi : 10.1145/3025453.3026036 .
  29. ^ a b c Hentout, Abdelfetah; Aouache, Mustapha; Maoudj, Abderraouf; Akli, Isma (2019-08-18). „Mensch-Roboter-Interaktion in der industriellen kollaborativen Robotik: eine Literaturübersicht des Jahrzehnts 2008–2017“. Fortschrittliche Robotik . 33 (15-16): 764-799. doi : 10.1080/01691864.2019.1636714 . ISSN  0169-1864 . S2CID  198488518 .
  30. ^ a b Aggogeri, Francesco; Mikolajczyk, Tadeusz; O'Kane, James (April 2019). "Robotik zur Rehabilitation der Handbewegung bei Schlaganfallpatienten" . Fortschritte im Maschinenbau . 11 (4): 168781401984192. doi : 10.1177/1687814019841921 . ISSN  1687-8140 .
  31. ^ a b Oña, Edwin Daniel; Garcia-Haro, Juan Miguel; Jardón, Alberto; Balaguer, Carlos (26.06.2019). "Robotik im Gesundheitswesen: Perspektiven robotergestützter Interventionen in der klinischen Praxis zur Rehabilitation der oberen Gliedmaßen" . Angewandte Wissenschaften . 9 (13): 2586. doi : 10,3390/app9132586 . ISSN  2076-3417 .
  32. ^ a b Robinson, Hayley; MacDonald, Bruce; Broadbent, Elizabeth (November 2014). „Die Rolle von Gesundheitsrobotern für ältere Menschen zu Hause: Eine Überprüfung“. Internationale Zeitschrift für soziale Robotik . 6 (4): 575–591. doi : 10.1007/s12369-014-0242-2 . ISSN  1875-4791 . S2CID  25075532 .
  33. ^ Curtis, Sophie (2017-07-28). „Dieser gruselig aussehende humanoide Roboter hat einen sehr wichtigen Zweck“ . Spiegel . Abgerufen am 28.10.2019 .
  34. ^ a b c d e Begum, Momotaz; Serna, Richard W.; Yanco, Holly A. (April 2016). "Sind Roboter bereit, Autismus-Interventionen durchzuführen? Eine umfassende Überprüfung". Internationale Zeitschrift für soziale Robotik . 8 (2): 157–181. doi : 10.1007/s12369-016-0346-y . ISSN  1875-4791 . S2CID  15396137 .
  35. ^ a b Biondi, Francesco; Alvarez, Ignacio; Jeong, Kyeong-Ah (2019-07-03). „Mensch-Fahrzeug-Kooperation im automatisierten Fahren: Eine multidisziplinäre Überprüfung und Bewertung“. Internationale Zeitschrift für Mensch-Computer-Interaktion . 35 (11): 932–946. doi : 10.1080/10447318.2018.1561792 . ISSN  1044-7318 . S2CID  86447168 .
  36. ^ a b Goodrich, MA; Lin, L.; Morse, BS (Mai 2012). „Mit einer Kamera ausgestatteten Mini-UAVS zur Unterstützung kollaborativer Such- und Rettungsteams in der Wildnis“. 2012 International Conference on Collaboration Technologies and Systems (CTS) : 638. doi : 10.1109/CTS.2012.6261008 . ISBN 978-1-4673-1382-7. S2CID  13164847 .
  37. ^ a b Morse, Bryan S.; Engh, Cameron H.; Goodrich, Michael A. (2010). "UAV-Videoabdeckungsqualitätskarten und priorisierte Indexierung für die Suche und Rettung in der Wildnis" . Fortsetzung der 5. Internationalen ACM/IEEE-Konferenz zur Mensch-Roboter-Interaktion - HRI '10 . Osaka, Japan: ACM Press: 227. doi : 10.1145/1734454.1734548 . ISBN 9781424448937. S2CID  11511362 .
  38. ^ a b c Bernhard, Tiziano; Martusevich, Kirill; Rolins, Armando A.; Spence, Isaak; Troschtschenko, Alexander; Chintalapati, Sunil (2018-09-17). „Ein neuartiges Mars-Rover-Konzept für die operative Unterstützung von Astronauten bei EVA-Missionen an der Oberfläche“. 2018 AIAA SPACE und Raumfahrtforum und Ausstellung . Orlando, FL: Amerikanisches Institut für Luft- und Raumfahrt. doi : 10.2514/6.2018-5154 . ISBN 9781624105753.
  39. ^ Bartneck, Christoph; Michio Okada (2001). "Roboter-Benutzeroberflächen" (PDF) . Tagungsband der Human and Computer Conference . S. 130–140.
  40. ^ Bartneck, Christoph (Februar 2011). „Das Ende vom Anfang: eine Reflexion über die ersten fünf Jahre der HRI-Konferenz“ . Szientometrie . 86 (2): 487–504. doi : 10.1007/s11192-010-0281-x . PMC  3016230 . PMID  21297856 .
  41. ^ "Mensch-Roboter-Interaktion – Teilen und genießen!" .
  42. ^ Bartneck, Christoph; Belpaeme, Tony; Eyssel, Friederike; Kanda, Takayuki; Keijsers, Merel; abanović, Selma (2019). Mensch-Roboter-Interaktion - Eine Einführung . Cambridge: Cambridge University Press. ISBN 9781108735407. Abgerufen am 27. Januar 2020 .
  43. ^ Kanda, Takayuki (2012). Mensch-Roboter-Interaktion in der sozialen Robotik . CRC-Presse. ISBN 9781466506978.
  44. ^ Breazeal, Cynthia; Dautenhahn, Kerstin; Takayuki, Kanda (2016). "Soziale Robotik". In Sizilianisch, Bruno; Khatib, Oussama (Hrsg.). Springer Handbuch der Robotik . Berlin: Springer. S. 1935–1972. ISBN 9783319325507.
  45. ^ edX (2021-09-01). "Berufszertifikat in Mensch-Roboter-Interaktion" . Abgerufen 2021-09-01 .
  46. ^ edX (2021-09-01). "Einführung in die Mensch-Roboter-Interaktion" . Abgerufen 2021-09-01 .
  47. ^ edX (2021-09-01). "Methoden und Anwendung in der Mensch-Roboter-Interaktion" . Abgerufen 2021-09-01 .

Verweise

Externe Links