240826_ChatGPT4o 파인튜닝, CSP의 한국시장 진출

GPT4o 모델이 파인튜닝을 지원한다. 

https://openai.com/index/gpt-4o-fine-tuning/

https://www.mk.co.kr/news/it/11097536

오픈AI, GPT-4o 파인튜닝 기능 공개...23일까지 무료토큰 - 매일경제

 

간단하게 요약해보자면 나만의 또는 회사만의 데이터를 넘겨주면 그 데이터 기반으로 특화된 GPT를 이용할 수 있는 것인데 GPT4o 공개 시 성능이 좋았기때문에 해당 지원이 큰 파급력을 불러오지 않을까 싶다.

 

오픈소스 진영의 메타 llama와 유료화(?)의 선봉장 OpenAI 그 사이에 껴서 폭발적으로 성장중인 Grok에 Claude까지, 이 세계는 경쟁과 발전에 있어 끝이 어딜지 무서울 정도다.

 

https://x.ai/

xAI

 

이쯤에서 CSP 이야기를 해볼까한다.

Cloud Service Provider, 클라우드 서비스 제공업체라는 의미이나 요즘에는 AWS, Azure, GCP라는 거대 삼대장이 해당 약어를 대신하는 듯 하다. 간단하게 말하자면 클라우드 서비스 사업자를 이야기하는 것이다.

 

AWS는 탄탄한 인프라, 공격적인 클라우드 기반 서비스 개발 투자로 업계 1위가 된 것은 누구나 알고 있을 것이다. 책방 서버 늘리다가 이렇게 될줄 누가 알았을까...!

그렇다면 GCP와 MS가 궁금한데 그 중 MS는 나티아 사델라가 클라우드의 전반적인 큰 그림을 보면서 진행하는 것이 흥미롭다. 한마디로 돈냄새를 잘 맡는다고 해야할까.

깃허브를 인수하고 OpenAI에 투자하면서 기반이 되는 소스코드 + 유능한 인재풀을 얻은 것이 아닐까 싶다. 여기에 클라우드 사업을 위시한 데이터센터 건립과 해당 센터 사용 에너지 확보를 위한 투자까지 모든게 하나의 바퀴처럼 잘 굴리는 느낌이 든다.

 

이어서 현재 화두로 계속 떠오르는 데이터센터 설립 이야기를 안할 수가 없다.

위에서 언급한 AI 발전에 있어 방대한 데이터 축적과 사용이 필수적이다. 이를 뒷받침하기 위해 데이터센터 건립은 필수적인데 여기에 필요한 GPU 부족은 일도 아니라는 것이 요즘에 계속 나오고 있다.

 

그러나 하드웨어 부족은 단편적인 것으로, 가장 큰 이슈는 데이터센터를 뒷받침할 전력수요가 부족하다는 것이다. 이건 진짜 난리도 아니다.

https://www.chosun.com/economy/2024/06/16/ACAQAHE64VAP5OHM2IWYCNADNE/

데이터센터의 비싼 청구서...AI 전쟁보다 먼저 닥친 ‘전력 전쟁’

 

원전 53개(!)가 더 필요할 수도 있다는 기사도 나오는 상황이다. 전력이 AI 발전 발목 잡을 수도 있다.

https://www.hankyung.com/article/2024052135661

"5년 뒤 AI데이터센터 전력 감당하려면 원전 53개 더 필요"

 

주제로 돌아가서 기존 BIG 3는 국내 데이터센터를 임차하여 사업을 진행하고 있다.

데이터센터 위치는 노출되는 것이 외부침입과 같은 위협요소가 되기에 카더라로만 밝혀져 있다.

 

대략적인 데이터센터 위치 정리한 블로그가 있어 첨부한다. 대략적으로 맞을 것 같다는 생각이다.

https://kim-dragon.tistory.com/228#Azure%---%ED%-F%--%EC%B-%-C%-C%--%EB%B-%--%EC%--%B--

 

AWS는 우리나라 인천에 데이터센터를 지을 것으로 이야기가 나왔다. 무려 축구장 6개 크기라고 하니 말 다한 것 같다.

https://www.etnews.com/20240319000226

[단독]AWS 韓데이터센터, 인천 중부 공업지역에 짓는다

 

우리나라에 총 8조를 투입한다고 한다(!)

이렇게까지 투자를 할만한 나라인가 싶은데 내 나름대로 추론은 아래와 같다.

 

1) 지정학적 위치가 좋다.

북한이라는 아주 큰 위협요소가 있지만 그래도 동북아 중심으로서 지정학적으로 좋은 위치이다.

일본은 지진이라던가 자연재해가 생각보다 많고, 관련 인력을 수급하기도 쉽지 않으며 전반적인 전력공급가도 한국보다 비싼편이다.

중국은 노코멘트하겠다. 대만이나 홍콩 또한 현재 지정학적 리스크가 있으며, 싱가포르는 대규모 토지를 매입하는게 쉽지 않을 듯 하다.

 

2) '공공시장'에 대한 진출포석

위 내용을 빼고 이거 하나로도 설명이 될 수도 있을 것 같다.

 

이미 민간 부분은 많은 비중으로 BIG 3 의존도가 높은 상황이다. 거의 게임이 되지 않을 수준으로 AWS는 업계 클라우드 사용의 표준이 된 상황이며, 해당 클라우드 사업자의 라이센스를 가지고 많은 국내 기업들이 기업 인프라 전환사업을 수주했고 전환을 시킨 상황이다.

 

인제 남은 것은 공공섹터다. 국내 대규모 건설, 인프라 사업에 투자하면서 한국 정부에 눈도장을 찍고 미국 정부와의 클라우드 전환 계약등을 레퍼런스 삼아 한국 공공시장에 진출하려는 계획으로 보인다.

 

이미 공공클라우드 시장은 개방이 되기 직전이다. 보안인증 이후 저수준인 유치원, 학교서부터 구청, 시청 단위 나아가 국방부 등 핵심 심 공공기관으로 진출하려고 할 계획일 것이다.

https://biz.chosun.com/it-science/ict/2024/04/23/X7R5HT6X6FHJTFDN6CI2R5OUWY/

[단독] 공공 클라우드 시장 외산에 개방… 아마존·MS·구글, 국정원과 ‘보안적합성’ 검증 합의

 

아울러, 이를 증명하듯이 최근 AWS는 '퍼블릭 섹터 데이 서울 2024'를 개최하였다.

'퍼블릭 섹터데이'는 AWS가 공공 부문(정부 기관, 교육 기관, 비영리 단체 등)을 대상으로 주최하는 연례 행사다.

그간 전세계 주요도시에서 열렸으나, 우리나라에선 처음이다.

 

https://www.newsis.com/view/NISX20240704_0002799232

아마존·구글, 韓 클라우드보안인증 획득 임박?…'공공' 정조준