챗봇이 완전히 틀렸으면서도 옳다고 주장할 수 있다면 어떤 위험이 있을지 상상해 보세요. NASA 기대기 시작한다 인공지능 생명 감지에 도움이 됩니다.

수 탐사선 갑자기 환각을 느끼다 외계인?

미시간 주립대학교 연구자들은 알고 싶었기 때문에 AI 시스템을 훈련시켜 자신을 복제할 수 있는 디지털 “유기체”와 복제할 수 없는 다른 유기체 사이의 차이를 발견하도록 했습니다. 아비다. 테스트 실행에서 알고리즘은 99.97%의 시간 동안 올바른 차이를 찾아냈습니다.

그런 다음 팀은 그것을 속이려고했습니다. 그들은 살아 있지 않은 코드 덩어리를 가져다가 작은 변화를 계속해서 만들어 AI가 살아있는 것을 보고 있다는 확신을 갖도록 했습니다. 결국 시스템은 가상 세계에서 “살아있다”고 정의된 한 가지 행동, 즉 복제를 전혀 보여주지 않았음에도 불구하고 많은 가짜가 살아 있다는 것을 거의 100% 확신하게 되었습니다.

컴퓨터 과학 및 공학 박사과정 학생인 안킷 굽타(Ankit Gupta)는 이번 연구는 AI가 무엇이 무언가를 살아 있게 만드는지 근본적으로 이해하지 못한 채 어떻게 훈련 데이터의 패턴을 붙잡을 수 있는지를 보여준다고 말했습니다. 굽타와 그의 공동 저자이자 미생물학, 분자유전학, 물리학, 천문학 교수인 크리스토프 아다미(Christoph Adami)는 이러한 약점이 실패할 수 있다고 경고했습니다. 공간 스마트 기기를 보내는 임무 화성, 얼음 달또는 다른 외계 환경 삶의 흔적을 찾기 위해.

팀이 발표할 예정 그들의 발견 지난 8월 캐나다 워털루에서 열린 2026년 인공생명 회의에서.

Gupta는 Mashable과의 인터뷰에서 “AI는 ‘일반적인’ 것을 분류하는 데 매우 정확합니다.”라고 말했습니다. “문제는 AI가 자신 있게 잘못 분류할 일반적인 것과 다른 사례가 제시될 때 발생합니다. 이는 명백한 이유로 외계 생명체의 경우 훨씬 더 가능성이 높습니다.”

동시에 NASA와 그 파트너들은 자금을 쏟아 붓고 있습니다. AI 기반 생명 감지 프로젝트기계 학습은 과학자들이 스스로 완전히 분석할 수 없는 거대하고 복잡한 데이터 세트를 선별할 수 있다고 확신합니다. AI가 유망한 단서를 표시하는 데 도움을 주고 인간이 최종 결정을 내리는 미래를 위한 무대를 마련하고 있습니다.

매쉬 가능한 광속

NASA의 자금 지원을 받아 Carnegie Science의 Michael L. Wong과 NASA의 Caleb Scharf가 이끄는 대규모 팀이 복잡한 화학 데이터에서 생명체의 패턴을 찾아내는 기계 학습 도구를 구축하고 있습니다. 그들의 프로젝트는 500만 달러 보조금최소 1,000개의 샘플에 대해 AI를 훈련하는 것을 목표로 합니다. 운석 암석부터 화석, 살아있는 유기체까지.

일부 데이터는 다음을 포함하여 실제 장비에서 나옵니다. 질량 분석기 이미 NASA 임무를 수행하고 있는 사람들처럼 말입니다. 알고리즘은 생명이 해당 물질을 형성할 때와 단순한 물리학 및 화학이 작업을 수행할 때 분자 혼합이 어떻게 이동하는지 학습합니다.

Wong은 새로운 조사를 환영하지만 실험이 AI 접근 방식의 심각한 취약점을 노출했는지 확신하지 못합니다. 그의 견해로는 연구가 실제로 가짜 생명을 만들어낸 방식이 중요하다. 저자는 코드가 점점 더 실제처럼 보일 때까지 계속해서 개선하는 일종의 선택 프로세스를 사용했습니다.

“솔직히 말해서 그렇게 나쁘지는 않다고 생각합니다”라고 그는 Mashable에 말했습니다. “생명 모방, 즉 스푸핑을 생성하기 위해 그들은 실제로 살아있는 과정인 자연 선택을 수행해야 했습니다. ‘나는 생명체처럼 보이지만 실제로 생명체와 같은 일을 하지 않는 개체를 선호합니다.’라고 말하는 그런 종류의 선택을 수행하는 실제 물리적 환경이 있는지는 모르겠습니다.”

그러나 연구를 통해 Wong은 생명 탐지 모델에 어떤 종류의 예를 제공하는지 더 많이 생각하게 되었습니다. 그의 그룹은 살아있는 것뿐만 아니라 생명체의 잔해와 부산물(화석, 끈끈한 물질, 폐기물)에 대해서도 계속해서 AI를 훈련시키기를 원합니다.

결국, 모델에게 살아있는 것을 식별하는 방법만 가르친다면 죽은 것을 인식할 수 없을 것이라고 그는 말했습니다. 화성이나 다른 세계가 오직 남은 화학물질 오래전에 멸종된 생물권의 모습입니다.

“화석은 생명의 증거입니다. 제가 앉아 있는 의자도 마찬가지입니다. 왜냐하면 그것들은 지질학 덕분에 마술처럼 갑자기 존재하게 된 것이 아니기 때문입니다.”라고 그는 말했습니다. “화석과 내 의자는 살아 있지 않지만 생명의 일부라고 생각합니다. 생명의 산물입니다.”

Wong의 팀은 또한 모델을 속이려고 많은 시간을 소비합니다. 어떤 경우에는 알고리즘이 인간이 처음에 놓친 패턴을 포착하여 과학자들을 놀라게 했습니다. 한 테스트에서 시스템은 계속해서 바다 물총 멍게는 햇빛으로부터 스스로 양분을 만들지 않지만 샘플은 광합성을 하는 것처럼 보였습니다. 처음에는 오류처럼 보였던 것은 전혀 없었다고 Wong은 말했습니다. 이러한 생물은 종종 햇빛을 사용하는 조류를 호스팅하며 AI는 화학적 지문을 발견했습니다.

기술의 발전에도 불구하고 미시간 주립대 팀은 도구가 우주선에 사용될 준비가 되었다고 확신하지 않습니다. 팀의 연구실에서는 이러한 종류의 속임수를 방어하기 위해 자체적인 기계 학습 방법도 연구하고 있습니다.

굽타는 “기다릴 수 있다”고 말했다. “분명히 우리는 아직 거기에 도달하지 못했습니다.”

주제
인공지능