Russische Wissenschaftler bezweifeln, dass man künstlicher Intelligenz bedingungslos vertrauen kann

Ein sehr wichtiges Thema im Zusammenhang mit Technologien der künstlichen Intelligenz wurde beim letzten Präsidium der Russischen Akademie der Wissenschaften diskutiert. Während der Diskussion versuchten die Wissenschaftler also zu verstehen, wie sehr man der künstlichen Intelligenz (KI) vertrauen kann und wo die Grenze liegt, an der ein Mensch selbst entscheiden muss.

Ob Sie es glauben oder nicht Künstliche Intelligenz

Nach Angaben des Präsidenten der Russischen Akademie der Wissenschaften A. Sergeeva, AI ist eine sogenannte "Black Box", deren Funktionsweise selbst ihre Schöpfer nicht vollständig verstehen. Und so stellt sich eine sehr logische Frage: Ist es möglich, den Schlussfolgerungen der KI zu vertrauen, wenn wir die Folgerungen dieser „Maschine“ nicht nachvollziehen können?

Tatsächlich erledigt die künstliche Intelligenz bereits eine ziemlich große Anzahl von Operationen besser und schneller als der Mensch.

Und es mag verlockend sein, die Wissenschaft grundsätzlich aufzugeben, denn ein Spezialist mit durchschnittlicher Kompetenz kann bestimmte Aufgaben stellen und Antworten aus der KI lesen.

Aber nur bei vollständigem und wahllosem Vertrauen in KI-Lösungen kann man sich ein stark verzerrtes Bild machen, das recht teuer werden kann.

Die Sache ist die, dass ein Mensch zu sehr geneigt ist, der Technologie zu vertrauen, aber mit künstlicher Intelligenz ist alles viel komplizierter. Die Sache ist die, dass die Menschheit immer noch nicht vollständig erklären kann, wie das menschliche Gehirn funktioniert.

Ebenso wenig versteht man die Funktionsweise der KI, die analog zum menschlichen Gehirn aufgebaut ist. Tatsächlich basieren neuronale Netze auf einer ziemlich einfachen Gleichung eines Neurons.

Aber nur wenn zum Beispiel 600 Milliarden solcher Komponenten auf einmal an der Arbeit beteiligt sind, wird absolut niemand mit Sicherheit sagen, welche Verbindungen sich im neuronalen Netz bilden.

Darüber hinaus stellten die Wissenschaftler fest, dass mit der Entwicklung neuronaler Netze immer mehr Nachteile festgestellt werden. Denn am Anfang lernt KI aus Millionen unterschiedlicher Beispiele.

Aber oft, selbst bei einer leichten Abweichung von den während des Trainings "erlernten" Parametern, beginnt das System, falsche Ergebnisse zu liefern.

Ein ziemlich markantes Beispiel ist also ein neuronales Netz von IBM, das gezielt für medizinische Zwecke entwickelt wurde. Es stellte sich also heraus, dass die IBM-KI Diagnosen auf dem Niveau eines ziemlich durchschnittlichen Arztes stellt. Das bedeutet, dass KI-Technologien zwar die Schaffung intelligenter Systeme ermöglichen, aber bei weitem nicht perfekt sind.

Und zum Abschluss der Diskussion kamen die Wissenschaftler zu dem Schluss, dass es angesichts des immer stärker werdenden Trends in der Entwicklung und Nutzung von Künstlicher Intelligenz einfach notwendig ist, eine gewisse Analogon von GOST, das es ermöglicht, die KI erst dann vollständig zu nutzen, wenn das System eine ganze Reihe von Prüfungen bestanden hat, und Wissenschaftler sind überzeugt, dass KI nicht funktionieren wird Fehler.

Schreiben Sie in die Kommentare, wie Sie persönlich den Einsatz von KI im Alltag empfinden. Wenn Ihnen das Material gefallen hat, dann bewerten Sie es und vergessen Sie nicht, den Kanal zu abonnieren. Vielen Dank für Ihre Aufmerksamkeit!