AI AI AI

HBM RAM 관련 글은 아래에 있습니다.

목차 버튼 누르셔서 아래 내용만 보세요

AI가 미래입니다.

하지만

아직도 AI하면 LLM만 떠올리시는 분들이 많아서 제가 다른사람에게 설명하기 위해서 글을 작성합니다.

→ LLM이란 제미나이, chatGPT 생각하시면 편합니다

1. AI가 뭐고

이런건데 이해 못하시겠죠?

그래서 쉽게 생각해보면 우리 세상에 있는 것들은 전부 숫자로 표현이 가능합니다.

우리가 보는 이미지과 이 글자마저 말이죠

숫자를 그래픽카드로 계산해서 추론한다고 생각하시면 됩니다.

수학에서 막 임의값을 찾는거 있잖아요? 그런겁니다.

원하시면 하이닉스에서 친절하게 적어 놓았으니 직접 정독 하시는거 추천드립니다.

2. AI가 가지고 오는 변화

사실 이게 제일 문제입니다.

2-1. 엔트로픽의 미토스

엔트로픽의 미토스라는 모델이 매우 충격적이었습니다.
→ 엔트로픽 = 클로드 입니다.

과거에는 우리가 명령을 해야지만 움직였던 AI가 이제 agnetic ai로 진화하며 스스로 움직입니다.

그러면 미토스는 뭐가 문제였나

짠

해킹을 합니다 !?!?

과거에는 해킹을 하려면 방대한 지식이 필요하나 이제는 아닙니다.

초딩도 가능합니다.

이거보다 더한 사회적 문제가 발생할 수 있는겁니다.

과거에는 무언가를 배우기 위해서는 스승을 찾아야했습니다.

근데 이제 스승이 널렸습니다 누구나 AI를 바탕으로 나쁜일을 할 수도 있다는겁니다.

2-2. SW의 붕괴

이게 무슨소리인지 모르시겠다고요?

여러분이 가장 잘 아는 소프트웨어가 뭘까 했는데 한글 아시나요?

애증의 존재입니다.

그런데 이거 사실 불편합니다.

특히 맥 사용하시는 분들은 배로 불편합니다.

그러던 도중 갑자기 어떤 소식이 들렸는데.

이 개발자분은 AI를 통해 코딩을 하셨다고 합니다.

즉, 이제 원하는 SW를 직접 만드는 시대가 온겁니다.

제가 알기로는 무신사가 지금 가장 활발하게 AI 네이티브로 바뀌고 있는 것으로 알고 있습니다.

→ 외부 소프트웨어 사용을 빠르게 줄이고 있습니다.

SAP라는 기업이 있는데 이 기업은 이제 재무, 물류, 인사, 생산을 관리할 수 있는 소프트웨어를 판매하는 기업입니다.

ERP라고 들어보셨을지 모르겠습니다.

이제 이러 기업이 확실히 위기입니다.

원하면 직접 만들어서 사용하면 되니까요.

2-3. 고임금 노동의 끝

AI가 일자리를 뺏어간다는 말을 하시는데

그렇게 따지면 지금 인도를 보십쇼.

그들은 아직도 대한민국에서 로봇하는 작업들을 직접하고 있습니다.

이게 무슨 말이냐

AI로 대체되는 직업들은 임금이 높은 사람들 부터 대체가 될 것입니다.

로봇이 생각보다 비쌉니다.

하드웨어만 생각하시지 마시고 SW도 생각해보세요.

→ 물리적으로 좋은 로봇이 있다고 해도 지능이 없으면 깡통에 불과합니다.

3. 인간은 무엇을 해야하나요?

로봇이나 어떤 것이든 정밀도를 올리기 위해서는 엄청난 비용이 필요합니다.

1%에서 99%보다

99%에서 100%가 비용이 더 듭니다.

그렇기에 저 1%을 해결할 수 있는 사람이 되어야합니다.

저는 그래서 작은 것들 만지는 직업이 앞으로 잘될 것이라고 생각합니다.

마치 이런 일이요

그래서 저는 공대가 좋다고 생각합니다.

장기적으로는요

일단 향후 10~15년 쯤은 문과의 안락사가 늦춰졌다고 생각합니다.

이유가 뭐냐면 이미 죽기 직전 식물인간이었던 사람에게 산소호흡기를 달고 있었는데

이제는 산소호흡기는 없어도 되지만 여전히 의식이 없는겁니다.

어차피 AI를 통해 만들 수 있는 새로운 부가가치도 많이 안남지 않을까 싶습니다.

→ 전력 공급의 한계가 해결되기전까지는 문과의 시대라고 착각이 가능합니다.

+ 아직도 삼전, 하닉이 뭐하는지 모르시겠다고요?

아 이게 진짜 답답한데

쉽게 설명하면

우리가 노트북을 사용합니다.

작업관리자 혹은 맥 상태창을 열어볼까요?

이렇게 메모리, 디스크, GPU, CPU 이렇게 있습니다.

여기서 계산하는 장치는 GPU, CPU입니다.

CPU는 하나만 계산 잘하는 친구입니다.
→ 1+1은 2야!를 빠르고 정확하게? 하는 친구입니다.

GPU는 여러개를 잘하는 친구입니다.
→ 1+1과 동시에 2+2를 하는 친구입니다. 대신 속도가 느립니다.

여기서 그러면 AI에게 궁합이 잘 맞는 친구는 누구일까요?

바로 GPU입니다.

이거 언제 하나하나 계산합니까?

좀 틀리더라도 동시에 여러개를 계산 해줄 수 있는 친구가 필요하기에 GPU가 좋은겁니다.

그러면 RAM과 저장장치를 구분합시다.

RAM은 멍청하지만 빠른 친구입니다.
→ 무언가를 말하면 빠르게 전달해주지만 까먹습니다.
(휘발성)

저장장치는 느리지만 똑똑합니다.
→ 똑똑하기에 기억을 합니다. 하지만 느립니다.

그렇기에 이 둘은 공생관계입니다.

한놈은 빠르게 정보를 주고 한놈은 기억을 하는거죠.

그러면 여기서 삼전 하닉이 만드는 것은?
→ 둘다 만듭니다.

근데 지금 잘팔리는 HBM은 RAM입니다.
→ 뭔차이죠?

그냥 가깝고, 더 빠르다고 보시면 됩니다.

갈수록 GPU가 빠르게 많이 계산을 하기에 빠르게 정보를 주고 받아야합니다.

HBM은 빠르게 정보를 주고 받을 수 있습니다.

→ 엥 그러면 많이 필요하지는 않고 조금만 있으면 되는거 아니에요?

지금까지 우리가 배운 것을 다시 리마인드 해봅시다.

GPU가 계산을 한것을 빠르게 옮기는 것이 RAM이다.
→ 사실 이것도 좀 말이 이상한데 이렇게 알아먹으세요

자 이제 AI시대에 진짜로 RAM(HBM)이 필요한 이유는 심플합니다.

지금부터 당신이 AI라고 생각합시다.

정보들을 바탕으로 무언가를 계산해야합니다.

그러면 뇌속에 있는 정보를 바탕으로 계산을 하는 것이 빠를까요?

혹은 노트에 적어둔 정보를 바탕으로 계산하는 것이 빠를까요?

→ 당연히 뇌에 있는 정보로 계산하는 것이 빠릅니다.

여기서 뇌의 정보를 담는 것이 바로 RAM이고 노트에 적는 것이 저장장치입니다.

그러면 여기서 AI가 똑똑해질려면 뭐가 필요할까요?
→ 지식이 필요합니다.

그러면 뇌에 많은 지식을 넣아야겠죠?

즉, 결론적으로는 고용량의 RAM=HBM이 필요합니다.

자 이제 직관적으로 둘의 차이를 볼까요?

RAM은 어디있을까요?

저기 RAM이라 적혀있죠?

원래는 저기 있는 친구였습니다.

근데 아까 GPU랑 AI랑 궁합이 좋다고 했죠?

GPU로 가봅시다.

여기서 궁금하신게 있을 겁니다
→ 아니 그래픽카드랑 GPU랑 같은거 아니였나요?

정확히는 다릅니다!

그래픽카드는 쉽게 말하면 저 기판을 말하는겁니다.

그래픽카드에는 VRAM과 GPU라는게 같이 있는겁니다.
→ VRAM은 뭡니까?
→ 걍 Video카드에 들어가니까 VRAM인겁니다.
→ 그런가보다 하세요

보시면 가운데 칩을 중심으로 RAM이 감싸고 있죠?

자 이제 HBM을 봅시다.

??? 이게 뭡니까?

가까이 가볼까요?

이렇게 있죠?

혹시 뭔 차이가 있는지 아시겠습니까?

그래픽카드 대비 RAM이 가까이 있지않습니까?

즉, GPU 안에 RAM이 있다고 보면 쉽습니다.

엥 그러면 뭐가 다른겁니까?
→ 더 까까이 있으니까 빠르게 정보가 왔다갔다 하지 않겠습니까? 거리가 짧아졌잖아요

그러면 그냥 전에것도 가까이 붙이면 되잖아요

→ 그게 이렇게 물리적인 거리를 좁혀야할 이유가 그동안 없었습니다.
→ 적당하게 빠르게 계산하면 됬었습니다.
→ 근데 이제는 개빠르게 해야해서 이런 짓을 하는겁니다.

그와 동시에 당연히 기존 RAM보다 성능이 좋습니다.

근데 좋은건 뭐다? 비쌉니다.

그래서 지금 전닉이 돈을 잘 벌고 있는겁니다.

* 전닉이란?
→ 삼전이랑 하이닉스를 합쳐서 부르는겁니다.

아 이거 왜 작성했지

근데 설명하기 귀찮아서 앞으로는 이 글 링크 주려고요.

아 근데 이정도면 쉽게 설명한 것 같은데

어려우면…

알아서 공부하세요

그리고 이것도 정확하게 설명한 것은 아니니까 막 떠들고 다니지는 마세용 망신당해요