Moderator Chris Anderson und Tom Graham sprechen bei SESSION 1 bei TED2023: Wahrscheinlichkeit. April -, 230, … Vancouver, BC, Kanada. Foto: Gilberto Tadday / TED Gilberto Tadday / TED Als Tom Graham, Mitbegründer und CEO des KI-Video-Startups Metaphysic, das Videobild seines Gesichts allmählich in das von TED-Regisseur Chris verwandelte Anderson in Echtzeit, da Anderson ihn Anfang dieser Woche bei der TED230-Veranstaltung in Vancouver live auf der Bühne interviewte höre das Keuchen den Raum erfüllen. Das TED-Publikum, das man nicht wirklich als einen Mob von Maschinenstürmer-Bauern mit Heugabeln bezeichnen kann, war ebenso alarmiert über die Implikationen dieser Technologie, wie sie von der technischen Virtuosität der Anwendung beeindruckt waren. Grahams Unternehmen kommerzialisiert die Video-Deepfake-Technologie hinter der viralen Sensation „Deep Tom Cruise“ als VFX-Lösung für die Unterhaltungsindustrie. Es ist Teil einer Welle neuer Tools, die mithilfe generativer KI entwickelt werden, um fotorealistische Bilder und Bewegungsvideos zu erstellen, die gut genug sind, um Live-Auftritte nachzuahmen und sich nahtlos in die tatsächliche Fotografie einzufügen. Die Technologie debütierte bei „America’s Got Talent“, und Graham sagte, dass sie ihre erste groß angelegte Präsentation in einem Spielfilm sehen wird, in dem Tom Hanks und Robin Wright im kommenden Robert-Zemeckis-Projekt altern Hier.
Diese spezielle Anwendung von KI zum De-Aging und zur Schaffung überzeugender digitaler Darbietungen befindet sich am relativ harmlosen Ende des Kontinuums der Verwendung von Deepfakes, ungeachtet der Störungen, die sie wahrscheinlich in der Spezialeffektbranche verursachen wird. Andere, düsterere Szenarien, wie die Schaffung lebensechter politischer Desinformation oder nicht einvernehmlicher Pornografie, sind normalerweise die ersten Dinge, an die die Menschen denken, wenn sie sie sehen. Öffnet man damit die Büchse der Pandora? fragte Anderson. „Wir machen unsere Technologie nicht offen, damit wir kein Problem haben, dass Leute sie ohne Aufsicht verwenden.“ sagte Graham in einem Interview nach seinem TED Talk. „Unsere Kunden müssen eine sehr lange Garantie unterschreiben, dass sie die Rechte an den Bildern haben, die wir zum Trainieren verwenden. Aber auf lange Sicht, wenn die Kosten dafür auf null sinken und eine Milliarde Menschen da draußen dies tun, brauchen Sie definitiv ein verteiltes System, in dem Menschen ihre Daten besitzen und kontrollieren.“
Um das geistige Eigentumsrecht dazu zu zwingen, sich mit diesen Problemen auseinanderzusetzen, hat Graham, der als Anwalt arbeitete, bevor er in die Technologiebranche einstieg, ein Urheberrecht an einem KI-Avatar beantragt, den er mit der Technologie seines Unternehmens von sich selbst erstellt hat eine kurze Erläuterung, wie die Schöpfung die Kriterien für den Urheberrechtsschutz erfüllt. Das Urheberrechtsamt hat noch keine Entscheidung getroffen. Der unklare rechtliche Status von Deepfakes ist nicht das einzige Problem, das Anlass zur Sorge gibt. Die von Graham bei TED demonstrierte Technologie ist in der Lage, die Unterscheidung zwischen real und digital in der menschlichen Wahrnehmung aufzuheben. Kein unheimliches Tal mehr; nur eine unheimliche Landschaft, die sich in alle Richtungen erstreckt. Moderator Chris Anderson und Tom Graham sprechen bei SITZUNG 1 bei TED 230: Möglichkeit. April -, 230, … Vancouver, BC, Kanada. Foto: Gilberto Tadday / TED Gilberto Tadday / TED Graham argumentierte, dass das Verwischen der Grenzen zwischen realen und synthetischen Bildern einige therapeutische Vorteile hat, da die Benutzer in der Lage wären, Gespräche mit dem Computer zu führen -generierte Versionen ihres jüngeren Selbst oder verstorbener Angehöriger, um mit der Trauer fertig zu werden. „Der Verstand integriert Dinge und macht sie realistischer. Ein Zoom-Anruf ist ein schlechter Ersatz für das wirkliche Leben, aber wenn Sie diesen Zoom dem wirklichen Leben viel näher bringen können [through immersive, hyper realistic AI-generated imagery], können Sie das in Ihrem Kopf zum wirklichen Leben machen. Die Erinnerung, die du daran bildest, wird es real erscheinen lassen.“ Die meisten der TED-Publikumsmitglieder, mit denen ich gesprochen habe, fanden diesen angeblichen Vorteil fast so störend wie die offensichtlichen Nachteile. Graham sagte, dass die Reaktion weitgehend generationsabhängig ist und dass jüngere Menschen, die sich ständig mit digitalen Medien und Kultur beschäftigen, der Unterscheidung zwischen realen und digitalen Erfahrungen keine Priorität einräumen. „Viele von ihnen verbringen einen Großteil ihres Lebens in Videospielen, und diese Orte sind für sie realer als die physische Welt.“ Ein anderer Ein kontroverser Aspekt von Grahams Präsentation vor dem äußerst sozial eingestellten TED-Publikum war seine Haltung zur Unausweichlichkeit, dass Deepfakes Teil des Informationsökosystems werden. „Es passiert und es passiert schnell“, sagte er auf der Bühne und schien anzudeuten, dass wir Innovation um der Innovation willen einfach akzeptieren müssen, ungeachtet rechtlicher, ethischer und philosophischer Bedenken.
Graham schien von dieser Interpretation verblüfft zu sein, als wir später darüber diskutierten. „Mein Standard ist, dass wir es unbedingt regulieren müssen, wenn wir nichts dagegen tun können. Diese Idee, ‚Nun, es wird sowieso passieren, also sollten wir einfach nichts tun‘, fühlt sich wie eine einzigartige amerikanische Antwort an“, sagte Graham, der Australier ist.
„Das Herzstück des Internets ist Abschnitt 230“, fuhr er fort. „Das soll Menschen daran hindern, das urheberrechtlich geschützte Material anderer Menschen durch die Verbreitung von sozialen Netzwerken und benutzergenerierten, von Benutzern geposteten Inhalten zügellos zu missbrauchen. In diesem Paradigma wäre es vielleicht besser, wenn Sie einfach alles sehen könnten, jederzeit und an jedem Ort, und es gäbe keine Moderation. Es gibt sicherlich Leute, die das argumentieren könnten, aber es ist definitiv nicht besser für die Gesellschaft. Ich bin sehr für die Regulierung, im Herzen dessen, wer ich bin. Ich bin eine Institutionsperson.“ Während Graham eine Regulierung begrüßen mag, ist es unklar, ob unsere Institutionen agil, reaktionsschnell oder kompetent genug sind, um damit umzugehen was kommt, da diese Art von KI-Bildern im Moment besser, schneller und billiger wird. Selbst wenn dies der Fall ist, wird die Störung von Wirtschaft, Kultur und Gesellschaft wahrscheinlich tiefgreifender sein, als wir uns derzeit vorstellen können. Mehrere Redner später im TED-Programm, darunter der Kognitionswissenschaftler Gary Marcus und der Forscher Eliezer Yudkowsky, plädierten für sofortige internationale Initiativen, um die besorgniserregenderen Anwendungen der KI, einschließlich Deepfakes, zu sperren, bis wir mehr Klarheit und Transparenz in die Systeme bringen können.
In der Zwischenzeit sagte Graham, dass die Nachfrage nach den Fähigkeiten von Metaphysic in Hollywood boomt, und das Unternehmen, das in gegründet wurde, , erwartet ein Wachstum auf fast Mitarbeiter weltweit bis Ende des Jahres. 230