인공 지능: 환상적인 약속과 실제 디스토피아 사이

‍

인공 지능은 많은 흥분과 실망의 주기를 거쳤습니다. 오늘날에는 Transformer 아키텍처에 기반한 대규모 언어 모델(LLM)의 개발 덕분에 상승 단계에 있습니다. 이 아키텍처는 특히 GPU에 적합하여 방대한 양의 데이터와 컴퓨팅 성능을 사용하여 수십억 개의 매개변수로 모델을 훈련할 수 있으며, 가장 중요한 결과는 컴퓨터용 새로운 사용자 인터페이스인 인간의 언어가 탄생한 것입니다.

1980년대에 그래픽 사용자 인터페이스를 통해 수백만 명의 사용자가 개인용 컴퓨터를 사용할 수 있게 된 것처럼, 새로운 자연어 인터페이스를 통해 작년에 전 세계 수억 명의 사용자가 AI를 사용할 수 있게 되었습니다.

‍

진정한 민주화의 신화

‍

이러한 명백한 접근성에도 불구하고 SaaS 솔루션이 약속한 '민주화'는 여전히 불완전하고 부분적이며, 새로운 형태의 불평등을 야기하고 있습니다.

‍

AI는 여전히 특정 기술을 필요로 합니다:

- AI 리터러시 및 시스템의 한계 이해

- 결과물을 비판적으로 평가하는 능력

- 비즈니스 프로세스의 통합 기술

‍

AI 효과와 국경의 역설

존 매카시는 1950년대에 AI라는 용어를 만들었지만, 그 자신은 "작동하자마자 아무도 더 이상 AI라고 부르지 않는다"고 불평했습니다. 'AI 효과'로 알려진 이 현상은 오늘날에도 계속 영향을 미치고 있습니다.

‍

AI의 역사에는 충분히 신뢰할 수 있게 된 후에는 더 이상 '지능적'이라는 수식어를 붙일 수 없을 만큼 '지능적'이라고 여겨지지 않는 성공 사례들이 산재해 있습니다.

‍

한때 최첨단 AI로 여겨졌지만 이제는 당연한 것으로 여겨지는 기술의 예시입니다:

‍

- 이제 모든 스마트폰에 머신 비전이 내장되었습니다.

- 음성 인식, 이제 간단히 '받아쓰기'

- 언어 번역 및 감정 분석추천 시스템(넷플릭스, 아마존) 및 경로 최적화(구글 지도)

이는 '프론티어 패러독스'라고 부를 수 있는 더 광범위한 현상의 일부입니다.

‍

우리가 기술적 숙달을 넘어선 경계를 인간에게 돌릴 때, 이 경계는 항상 정의되지 않은 채로 남아있을 것입니다. 지능은 우리가 포착할 수 있는 것이 아니라 끊임없이 다가오는 지평을 유용한 도구로 전환하는 것입니다.

‍

‍

AI와 정보 과부하

‍

제너레이티브 AI의 확산은 정보를 생산하고 전송하는 데 드는 비용을 획기적으로 줄였으며, 시민 참여라는 목표와 관련해서는 역설적인 효과를 가져왔습니다.

‍

합성 콘텐츠의 위기

제너레이티브 AI와 소셜 미디어의 결합이 만들어낸 결과물입니다:

- 인지 과부하 및 기존 편견의 증폭

- 사회 양극화 심화

- 여론 조작의 용이성

- 위조된 콘텐츠의 확산

‍

'블랙박스' 문제

‍

단순화된 인터페이스는 AI의 작동을 숨긴다: 자동화된 의사 결정 프로세스에 대한 이해 부족알고리즘 편향성 식별의 어려움

‍

기본 모델의 제한적인 커스터마이징인간 주도의 자동화된 인텔리전스의 중요성AI는 아직 90%밖에 도달하지 못했습니다.

‍

기계는 대량의 데이터를 분석하는 데는 탁월하지만 엣지 케이스에는 어려움을 겪습니다. 알고리즘은 더 많은 예외를 처리하도록 훈련할 수 있지만, 특정 시점이 지나면 필요한 리소스가 이점을 능가하게 됩니다. 인간은 경계선에 있는 사례에 원칙을 적용하는 정확한 사고자이지만, 기계는 사전 데이터를 기반으로 의사 결정을 내리는 근사치입니다.

‍

과대 광고에서 마력 상실까지: AI 주기

가트너가 기술 과대광고 주기에 대해 설명한 것처럼, 열광적인 열광 뒤에는 항상 실망, 즉 '환멸의 계곡'이 뒤따릅니다.

‍

컴퓨터 과학의 선구자이자 튜링상 수상자인 앨런 케이는 '기술은 발명되기 전에 태어난 사람들만을 위한 기술이다'라고 말하며 단기적으로는 눈길을 끄는 마케팅으로 이익을 얻지만 대가를 치러야 합니다. 머신러닝 전문가들은 과학자이자 엔지니어이지만, 그들의 노력은 항상 마법처럼 보이지만 언젠가는 그렇지 않습니다.

‍

동질화 및 경쟁 우위 상실사전 구축된 동일한 SaaS 솔루션의 광범위한 채택으로 인한 결과: 유사한 비즈니스 프로세스로의 수렴AI를 통한 차별화 어려움플랫폼 기능으로 인한 혁신 제한데이터 지속성 및 그 위험성

‍

생성형 AI 플랫폼의 접근성: 디지털 인프라에서 시간이 지나도 데이터 지속데이터 포인트를 다양한 상황에서 재사용할 수 있습니다.

미래 세대의 AI가 합성 콘텐츠를 학습하게 되면 위험한 사이클이 만들어집니다.

‍

새로운 디지털 격차

‍

AI 시장은 다음과 같이 나뉘고 있습니다:

- 상품 AI: 많은 사람들이 사용할 수 있는 표준화된 솔루션

- 고급 독점 AI: 몇몇 대형 조직에서 개발한 최첨단 기능

‍

보다 정확한 어휘의 필요성

문제의 일부는 '인공 지능'의 정의 자체에 있습니다.

‍

이 용어를 재귀적으로 분석해 보면, 정의의 각 지점이 '인간' 또는 '사람'을 지칭한다는 것을 알 수 있습니다. 정의에 따라 우리는 AI를 인간을 모방한 것으로 생각하지만, 어떤 기능이 기계의 영역에 확고하게 들어오는 순간 우리는 인간의 기준점을 잃고 AI로 간주하지 않게 됩니다.

‍

언어 모델용 트랜스포머나 이미지 생성용 확산과 같이 실제로 적용할 수 있는 특정 기술에 집중하는 것이 더 유용합니다. 이렇게 하면 기업을 평가할 수 있는 능력이 훨씬 더 명확하고 가시적이며 현실적입니다.

‍

결론: 프론티어에서 기술까지

‍

프론티어 패러독스는 AI가 너무 빠르게 가속화되어 곧 단순한 기술이 되고, 새로운 개척지가 AI가 될 것이라는 의미입니다. '기술'이 된다는 것은 이전에는 가능성의 최첨단에 있던 아이디어가 인정받는 것으로 보아야 합니다.이 글은 AI 역설에 대한 세쿼이아 캐피탈의 성찰에서 부분적으로 영감을 받았습니다.

자세한 정보: https://www.sequoiacap.com/article/ai-paradox-perspective/

‍

접근 가능한 AI의 진정한 약속은 단순히 기술을 제공하는 것이 아니라 혁신, 제어 및 혜택이 진정으로 분배되는 생태계를 만드는 것입니다.

우리는 정보에 대한 접근과 과부하 및 조작의 위험 사이의 긴장을 인식해야 합니다.

‍

인공지능에 강력한 인간적 요소를 유지하고 보다 정확한 언어를 채택해야만 진정으로 분산된 포용과 혁신을 위한 힘으로서 인공지능의 잠재력을 실현할 수 있습니다.