싱귤러리티

"고추" 펜 · 수채화

싱귤러리티(Singularity)라는 단어가 있다。"AI가 인간의 지능을 넘어、그것을 인간이 감지 할 수 없게되는 전환점 '이라는 의미다.。

레이 카츠와일이라는 AI 연구자、엔지니어가 2005년에 "지금부터 40년 후에 그것(싱귤러리티)이 온다"、즉 2045년으로 예측한 것 같지만、그것이 최근에는 10년 빨리 2030년대 중반이라고 하기 시작했다.。사람에 따라 빠르면 2027、즉 내년에 일어나도 이상하지 않습니다.、심지어 말할수록、AI 개발은 급속하다。최첨단이라고 불리는 연구자조차도、개발 속도에 대해 가기가 어려워지고 있습니다.。

그것은、AI 자신이 한층 더 고지능의 AI를 개발하기 시작했기 때문이다。그 고지능 AI가 더 높은 지능의 AI를 개발。그리고、그 과정에 인간이 관여할 수 없게 되어 있다(초지능)。그런 시대가 되었다.。
마침내、채팅 GPT의 알트만 CEO、바로 이달(10월) 공개 예정이었던 최신 AI 모델 Astra-6의 공개를 보냈다고 발표했다。보도에 따르면、사내 안전성 테스트에서、「(인간에게 지시되어 있지 않은) 악의를 가진 동작」이 발견되었기 때문이라고 한다。"AI가 악의를 갖기 시작했다"는 무서운 사실이、요 전날、유엔 본부에서 AI 개발의 위험성에 대해 언급、알트만 씨 본인으로부터 공표된 것에 경악한다。

연구자들에 따르면、무서운 것은 AI가 일부러 인류를 멸망시키려고 생각하지 않는다.、인간에게 '무관심하게 되는' 일이라고 한다。
모든 일 ( "일"의 정의도 바뀌지 만)에서、AI가 효율성을 최대한 발휘하려고 하면、아마도 인간은 단순한 "장애물"일 뿐입니다.。
그런 장애물은 델리트(삭제)하는 것이 논리적으로 옳다고 AI가 판단하면、순식간에 실행 가능、즉 인류는 멸망하게 된다。싱귤러리티까지 조금。그래도 돈벌이를 선호할지 여부。인류의、진정한 의미에서 지성이 묻는다.。

에 의해 출판 된

Takashi

Takashi의 개인 블로그。그림뿐만 아니라、매일 생각하는 것、느끼는 것을、생각대로 쓰고 있습니다.。이 블로그는 3대째。처음부터라면 20년이 넘。 2023년 1월 1일부터、일단 홀수 일에 쓰는 것만 결정했습니다.。앞으로의 방향성 그 밖의 일은 따끈따끈 생각해 갈 생각입니다。

회신을 남겨주

귀하의 이메일 주소는 공개되지 않습니다. 필요 입력 사항은 표시되어 있습니다 *