Raumfahrt - When AI hallucinates aliens: Some think NASA should be nervous Is artificial intelligence flight ready?

26.07.2026

pia25171-figure-a-persevereance-looks-back-at-wheel-tracks-1

If a chatbot can insist it's right while being totally wrong, imagine the stakes when NASA starts leaning on artificial intelligence to help with life detection.

Could the rovers suddenly hallucinate aliens?

Michigan State University researchers wanted to know, so they trained an AI system to spot the difference between digital "organisms" that can copy themselves and others that can't, using a computer program called Avida. In test runs, the algorithm nailed the distinction, getting it right 99.97 percent of the time. 

Then, the team tried to fool it. They took nonliving chunks of code and made small changes over and over, nudging the AI to feel more confident that it was looking at something alive. Eventually, the system became almost 100 percent certain that many of the fakers were alive, even though they never exhibited the one behavior defined as "alive" in that virtual world: replication.

The work shows how AI can latch onto patterns in its training data without fundamentally understanding what makes something alive, said Ankit Gupta, a doctoral student in computer science and engineering. Gupta and his coauthor, Christoph Adami, a professor of microbiology and molecular genetics, physics, and astronomy, warn that this weakness could foil space missions that send smart instruments to Mars, icy moons, or other extraterrestrial environments to hunt for signs of life.

The team will present their findings in August at the 2026 Conference on Artificial Life in Waterloo, Canada.

"AI is highly accurate at classifying things that are 'usual,'" Gupta told Mashable. "The problem occurs when it is presented with examples that are unlike the common things, which AI will misclassify with confidence. This is much more likely with extraterrestrial life, for obvious reasons."

At the same time, NASA and its partners are pouring money into AI‑driven life‑detection projects, betting that machine learning can sift through huge, complex data sets that scientists could never fully analyze on their own. It's setting the stage for a future in which AI helps flag promising clues, with humans making the final call. 

In one NASA‑funded effort, a large team led by Carnegie Science's Michael L. Wong and NASA's Caleb Scharf is building machine‑learning tools to pick out patterns of life in complex chemical data. Their project, supported by a $5 million grant, aims to train AI on at least 1,000 samples — from meteorites and rocks to fossils and living organisms.

Some of the data comes from real instruments, including mass spectrometers like those already flying on NASA missions. The algorithm learns how a mix of molecules shifts when life has shaped that material versus when simple physics and chemistry have done the job.

While Wong welcomes the fresh scrutiny, he isn't sure the experiments exposed a serious vulnerability in AI approaches. In his view, the way the study actually created its fake life matters. The authors used a kind of selection process that kept refining the code until it looked increasingly lifelike.

"I don't think it's that bad, to be honest," he told Mashable. "To generate their life mimics — their spoofs — they actually had to perform natural selection, which is a living process. I don't know of any actual physical environment that performs that kind of selection, where it says, 'I will prefer entities that just look like life, but don't actually do lifelike things.'"

But the research did push Wong to think more about what kinds of examples he feeds into life‑detection models. His group wants to continue training AI not just on things that are alive, but also on the remains and byproducts of life — the fossils, goo, and waste. 

After all, if the models are only taught to identify living things, they won't be able to recognize the dead ones, he said. That could create a massive blind spot if Mars or another world hosts only the chemical leftovers of a long‑extinct biosphere. 

"A fossil is evidence of life. So is the chair that I'm sitting on because those don't just magically pop into existence thanks to geology," he said. "A fossil and my chair are not alive, but I think they're part of life. They are a product of life."

Wong's team also spends a lot of time trying to deceive its models. In some cases, the algorithm has surprised the scientists by picking up on patterns the humans initially missed. In one test, the system kept insisting that a sea squirt sample looked photosynthetic, even though sea squirts don't make their own food from sunlight. What initially looked like an error was anything but, Wong said: Those creatures often host algae that do use sunlight, and the AI had spotted the chemical fingerprints. 

Despite the advances in technology, the Michigan State team is not convinced the tools are ready for spacecraft. The team's lab is also working on its own machine-learning methods to defend against this kind of trickery. 

"We can wait," Gupta said. "Clearly, we are not there yet." 

Quelle: Mashable

+++

Wenn KI Außerirdische halluziniert: Manche meinen, die NASA sollte beunruhigt sein
Ist künstliche Intelligenz flugtauglich?

Wenn ein Chatbot darauf bestehen kann, dass er richtig ist, aber völlig falsch liegt, stellen Sie sich vor, was auf dem Spiel steht, wenn die NASA beginnt, sich auf künstliche Intelligenz zu stützen, um bei der Lebenserkennung zu helfen.
Könnten die Rover plötzlich Außerirdische halluzinieren?
Forscher der Michigan State University wollten es wissen und trainierten mithilfe eines Computerprogramms namens Avida ein KI-System, um den Unterschied zwischen digitalen „Organismen“, die sich selbst kopieren können, und anderen, die dies nicht können, zu erkennen. In Testläufen hat der Algorithmus den Unterschied gemeistert und in 99,97 Prozent der Fälle alles richtig gemacht.
Dann versuchte das Team, es zu täuschen. Sie nahmen unbelebte Codeteile und nahmen immer wieder kleine Änderungen vor, um der KI das Gefühl zu geben, sicherer zu sein, dass es sich um etwas Lebendiges handelte. Schließlich gelangte das System zu nahezu 100-prozentiger Sicherheit, dass viele der Fälscher am Leben waren, auch wenn sie in dieser virtuellen Welt nie das eine Verhalten an den Tag legten, das als „lebendig“ definiert wurde: Replikation.
Die Arbeit zeigt, wie KI Muster in ihren Trainingsdaten erfassen kann, ohne grundsätzlich zu verstehen, was etwas zum Leben erweckt, sagte Ankit Gupta, ein Doktorand der Informatik und Ingenieurwissenschaften. Gupta und sein Co-Autor Christoph Adami, Professor für Mikrobiologie und Molekulargenetik, Physik und Astronomie, warnen davor, dass diese Schwäche Weltraummissionen vereiteln könnte, die intelligente Instrumente zum Mars, zu Eismonden oder in andere außerirdische Umgebungen schicken, um nach Lebenszeichen zu suchen.

Das Team wird seine Ergebnisse im August auf der „Conference on Artificial Life 2026“ in Waterloo, Kanada, vorstellen.
„KI ist sehr präzise bei der Klassifizierung von Dingen, die ‚gewöhnlich‘ sind“, sagte Gupta gegenüber Mashable. „Problematisch wird es, wenn sie mit Beispielen konfrontiert wird, die von den üblichen Dingen abweichen; solche Fälle klassifiziert die KI dann fälschlicherweise, aber mit voller Überzeugung. Bei außerirdischem Leben ist dies aus offensichtlichen Gründen weitaus wahrscheinlicher.“
Gleichzeitig investieren die NASA und ihre Partner massiv in KI-gestützte Projekte zur Suche nach Leben. Sie setzen darauf, dass maschinelles Lernen riesige, komplexe Datensätze durchforsten kann, die Wissenschaftler aus eigener Kraft niemals vollständig analysieren könnten. Damit werden die Weichen für eine Zukunft gestellt, in der die KI dabei hilft, vielversprechende Hinweise zu identifizieren, während der Mensch die endgültige Entscheidung trifft.
Im Rahmen eines von der NASA finanzierten Vorhabens entwickelt ein großes Team unter der Leitung von Michael L. Wong (Carnegie Science) und Caleb Scharf (NASA) Werkzeuge des maschinellen Lernens, um in komplexen chemischen Daten Muster aufzuspüren, die auf Leben hindeuten. Das Projekt, das mit einem Zuschuss von 5 Millionen US-Dollar gefördert wird, zielt darauf ab, die KI anhand von mindestens 1.000 Proben zu trainieren – von Meteoriten und Gesteinsproben bis hin zu Fossilien und lebenden Organismen.
Ein Teil der Daten stammt von realen Instrumenten, darunter Massenspektrometer, wie sie bereits bei NASA-Missionen zum Einsatz kommen. Der Algorithmus lernt zu erkennen, wie sich eine Molekülmischung verändert, je nachdem, ob Leben das Material geprägt hat oder ob einfache physikalische und chemische Prozesse am Werk waren.
Obwohl Wong die kritische Auseinandersetzung begrüßt, ist er sich nicht sicher, ob die Experimente tatsächlich eine gravierende Schwachstelle bei KI-Ansätzen aufgedeckt haben. Seiner Ansicht nach spielt die Art und Weise, wie die Studie das künstliche Leben erzeugte, eine entscheidende Rolle. Die Autoren nutzten ein Auswahlverfahren, bei dem der Code immer weiter verfeinert wurde, bis er zunehmend lebensecht wirkte.
„Ehrlich gesagt halte ich das nicht für so problematisch“, sagte er gegenüber Mashable. „Um ihre Lebensimitationen – ihre ‚Fälschungen‘ – zu erzeugen, mussten sie tatsächlich eine natürliche Selektion durchführen; das ist ein Prozess, der typisch für Lebewesen ist. Mir ist keine reale physikalische Umgebung bekannt, in der eine solche Selektion stattfindet – eine Umgebung, die quasi sagt: ‚Ich bevorzuge Einheiten, die zwar wie Leben aussehen, aber keine lebensähnlichen Funktionen erfüllen.‘“

Die Forschung hat Wong jedoch dazu veranlasst, genauer darüber nachzudenken, welche Arten von Beispielen er in Modelle zur Erkennung von Leben einspeist. Seine Arbeitsgruppe möchte die KI weiterhin nicht nur mit Daten über lebende Organismen trainieren, sondern auch mit Überresten und Nebenprodukten des Lebens – also Fossilien, biologischen Rückständen und Abfallprodukten.
Denn wenn die Modelle nur darauf trainiert werden, Lebewesen zu identifizieren, können sie keine toten Exemplare erkennen, so Wong. Dies könnte zu einer massiven Wissenslücke führen, falls sich auf dem Mars oder einer anderen Welt lediglich die chemischen Überreste einer längst ausgestorbenen Biosphäre befinden.
„Ein Fossil ist ein Beweis für Leben. Das gilt auch für den Stuhl, auf dem ich sitze, denn so etwas entsteht nicht einfach auf magische Weise durch geologische Prozesse“, sagte er. „Ein Fossil und mein Stuhl sind zwar nicht lebendig, aber ich betrachte sie als Teil des Lebens. Sie sind ein Produkt des Lebens.“
Wongs Team investiert zudem viel Zeit in den Versuch, die eigenen Modelle auszutricksen. In einigen Fällen überraschte der Algorithmus die Wissenschaftler, indem er Muster erkannte, die den Menschen zunächst entgangen waren. Bei einem Test stufte das System eine Probe einer Seescheide beharrlich als photosynthetisch aktiv ein – obwohl Seescheiden ihre Nahrung nicht aus Sonnenlicht gewinnen. Was zunächst wie ein Fehler aussah, war jedoch keiner, erklärte Wong: Diese Lebewesen beherbergen oft Algen, die Sonnenlicht nutzen, und die KI hatte deren chemische Fingerabdrücke aufgespürt.
Trotz der technologischen Fortschritte ist das Team der Michigan State University noch nicht davon überzeugt, dass die Verfahren bereits für den Einsatz in Raumfahrzeugen geeignet sind. Im Labor des Teams wird zudem an eigenen Methoden des maschinellen Lernens gearbeitet, um sich gegen derartige Täuschungen zu wappnen.
„Wir können warten“, sagte Gupta. „Wir sind ganz klar noch nicht so weit.“
Quelle: Mashable

 

 

 

 

88 Views