2021기술
더블 앤 애드 알고리즘 구현
비트코인 공개 키를 생성하는 동안, 카파시는 단순한 반복 덧셈이 큰 비밀 키에는 너무 느리다는 것을 깨달았어요. 그래서 효율적으로 공개 키를 계산하기 위해 '더블 앤 애드' 알고리즘을 구현했어요.
배울 점이론적인 예제에서 실제 암호화 규모로 넘어갈 때는 알고리즘의 효율성이 필수적이에요.
대가의 홀
안드레이 카르파티
Andrej Karpathy
AI와 첨단 기술1986년생
AI 연구자, OpenAI 창립 멤버, 전 테슬라 AI 책임자
전체 기록 705개
- 원칙 250
- 사례 127
- 발언 328
이 대가의 말로 질문하기
가입 없이 하루 3번 무료예요.
사례
전체 127개 가운데 기본 기록 19개
사례는 공개 자료에 나온 실제 일을 저희가 간추린 내용이에요.
성적에 대한 잘못된 집중
학부 시절 안드레이는 성적이 성공의 열쇠라고 믿고 좋은 점수를 받는 데 엄청난 에너지를 쏟았어요. 하지만 나중에 박사 과정 입학에는 완벽한 학점보다 연구 경험과 강력한 추천서가 훨씬 더 중요하다는 것을 깨달았어요.
배울 점주도성을 반영하지 못하는 표준화된 지표를 최적화하기보다, 실제 작업 포트폴리오와 관계를 구축하는 데 집중하세요.
앤드류 응의 조언 무시하기
박사 1년 차에 안드레이 카파시는 앤드류 응의 조언에 강하게 반대하며 그가 흥미로워하지 않는 문제를 밀어붙였어요. 결국 앤드류 응의 직관이 옳았던 것으로 드러나면서 몇 달을 허비하게 되었죠.
배울 점독립적인 사고는 가치 있지만, 전문가의 조언을 무시하는 것은 노력을 허비할 수 있는 계산된 위험을 감수하는 일이에요.
이산화탄소 측정기의 교훈
젊은 시절 카파시는 작동을 위해 정확한 물리적 위치와 개인 정보를 요구하는 중국산 이산화탄소 측정기를 구매한 적이 있어요. 이 경험을 통해 그는 많은 '스마트' IoT 기기들이 실제로는 피해야 할 보안에 취약한 데이터 수집 도구라는 점을 배웠어요.
배울 점단순한 기능을 위해 과도한 개인 정보를 요구하는 인터넷 연결 '스마트' 기기는 피하세요.
- 2019실패
역전파를 이용한 디버깅
카파시는 데이터가 배치 사이에서 섞이는 버그가 있어도 모델이 노이즈를 무시하는 법을 배우기 때문에 학습이 성공적으로 진행될 수 있다는 점을 발견했어요. 그는 특정 예시에만 사소한 손실 함수를 설정하고 해당 입력에만 기울기가 발생하는지 확인하여 이 문제를 디버깅하는 방법을 고안했어요.
배울 점겉보기에 잘 작동하는 시스템이라도 최종적인 잠재력을 제한하는 숨겨진 구조적 결함이 있을 수 있어요.
- 2006콘텐츠
유튜브를 통한 초기 콘텐츠 제작
카파시는 'badmephisto'라는 이름의 유튜브 채널을 시작해서 루빅스 큐브 튜토리얼을 공유했어요. 그의 영상은 펠릭스 젬덱스와 같은 세계적인 스피드큐버들에게 주요 학습 자료가 되었어요.
배울 점도움이 되는 니치한 콘텐츠를 통해 개인 브랜드를 구축하면 전문적인 커리어가 정점에 오르기 훨씬 전부터 권위를 세울 수 있어요.
- 2020일하는 법
개인 대사량 계산하기
안드레이는 Mifflin St. Jeor 공식을 사용하여 자신의 기초 대사량(BMR)이 하루 약 1800kcal라는 것을 계산했어요. 그는 단순히 숨 쉬고 살아가는 것이 러닝머신 위에서 힘들게 뛰는 것보다 더 많은 에너지를 소모한다는 사실을 깨달았어요.
배울 점시스템의 기준선을 정량화하면 실제로 '예산'의 대부분이 어디에 쓰이는지 파악하는 데 도움이 돼요.
- 2015창의
셀카 실험
신경망의 위력을 테스트하기 위해, 안드레이는 200만 장의 셀카를 학습시켜 '좋은' 셀카와 '나쁜' 셀카를 구별하는 모델을 만들었어요. 데이터를 객관적으로 분류하기 위해 팔로워 수 대비 좋아요 수를 지표로 활용했어요.
배울 점재미로 하는 실험이라도 복잡한 시스템이 품질을 식별하는 법을 배우는 과정에 대해 깊은 통찰을 줄 수 있어요.
- 2025배움
러스트로 토크나이저 재작성
안드레이는 익숙하지 않은 언어인 러스트로 파이썬 토크나이저를 재작성할 때 AI의 도움을 받았어요. 원래의 파이썬 로직을 완벽히 이해하고 있었고 기존 테스트 코드가 있었기에 AI가 생성한 러스트 코드가 정확한지 확인할 수 있었어요.
배울 점도메인 로직과 테스트 환경을 이미 갖추고 있다면 AI는 언어 전환을 위한 강력한 도구가 돼요.
- 2025결정
커스텀 동기화를 위해 DDP 거부
모델을 만드는 동안 안드레이는 표준 파이토치 DDP 컨테이너를 사용하는 대신 직접 GPU 동기화 루틴을 작성하기로 했어요. AI 모델들은 그의 특수한 아키텍처 설정을 이해하지 못하고 계속해서 표준 컨테이너를 사용하도록 강요했어요.
배울 점특정 프로젝트의 필요성보다 일반적인 프로덕션 표준을 우선시하는 AI의 제안을 거부하려면 전문성이 필요해요.
슬라이드 자동화의 어려움
안드레이는 코딩과 같은 텍스트 기반 인프라가 부족해서 발표 슬라이드 자동화에 어려움을 겪는 기업들을 관찰했어요. 슬라이드는 공간적이고 시각적이어서 현재의 텍스트 기반 AI가 변경 사항을 효과적으로 보여주기 어렵기 때문이에요.
배울 점제품의 성공은 작업의 매체가 텍스트 프로세서로서의 AI의 핵심 강점과 일치하는지에 달려 있어요.
- 2025전략
GDP 곡선에서 AI 찾기
카파시는 GDP 성장 데이터에서 AI와 휴대폰 같은 변혁적인 기술의 영향을 찾으려고 노력했어요. 그는 이러한 기술들의 확산이 매우 점진적이기 때문에 눈에 띄는 급증을 만들어내지 않는다는 것을 발견했어요.
배울 점신기술로 인한 갑작스러운 경제 폭발을 기대하지 마세요. 진짜 영향력은 느리고 꾸준한 통합을 통해 발생해요.
Eureka 및 Starfleet Academy 설립
안드레이는 지식의 경사로를 구축하기 위해 Eureka라는 새로운 벤처를 시작하고 있어요. 그는 고강도 학습을 위한 Starfleet Academy라는 오프라인 기관과 전 세계적인 접근성을 위한 디지털 서비스를 구상하고 있어요.
배울 점계층화된 제품 전략을 통해 프리미엄 밀착 경험과 대중을 위한 확장 가능한 버전을 동시에 제공할 수 있어요.
- 2025배움
생물학 논문 이해를 위한 AI 활용
안드레이는 이해하기 어려운 생물학 논문을 읽을 때 챗GPT를 활용해 기초적인 질문들을 던졌어요. 그러고 나서 그 대화 내용을 논문 저자에게 공유해, 비전문가가 어느 지점에서 막히는지 직접 보여주었죠.
배울 점자신이 헷갈리는 부분을 전문가에게 공유하면, 그들이 더 나은 소통가이자 교육자가 되도록 도울 수 있어요.
- 2026제품
microGPT 단순화 작업
안드레이는 microGPT 프로젝트의 코드를 최대한 단순화하기 위해 LLM을 사용하려고 시도했어요. 하지만 모델들은 미학적 단순함에 대한 보상 학습이 부족했기 때문에 이 작업에서 큰 어려움을 겪었어요.
배울 점현재의 AI 모델은 종종 비대한 코드를 생성하며, 극단적인 단순화나 미학적 우아함을 구현하는 데 어려움을 겪어요.
- 2025제품
클로드 코드 대 오픈AI 에이전트
앤스로픽은 개발자의 로컬 머신에서 직접 실행되어 개인 환경과 맥락에 접근할 수 있는 CLI 도구인 클로드 코드를 출시했어요. 카파시는 이것이 에이전트를 위해 클라우드 기반 컨테이너 배포에 집중했던 오픈AI의 초기 방식보다 더 우수한 접근법이라고 평가했어요.
배울 점사용자의 전체 워크플로우를 새로운 클라우드 환경으로 옮기려 하기보다, 데이터와 도구가 이미 있는 곳에서 사용자를 만나는 것이 종종 더 효과적이에요.
- 2014위험
적대적 예제의 발견
세제디와 굿펠로우 같은 연구자들이 이미지에 눈에 보이지 않는 노이즈를 추가하면 신경망의 분류 결과를 완전히 바꿀 수 있다는 사실을 발견했어요. 이는 성능이 뛰어난 모델이라도 아주 작은 동요 때문에 확신을 가지고 틀릴 수 있음을 보여주었죠.
배울 점최첨단 시스템이라도 최소한의 노력으로 악용될 수 있는 숨겨진 취약점이 존재해요.
- 2015배움
테이블 운반 수동 셰이핑
메루스는 자신의 AI 에이전트가 테이블을 거꾸로 들고 가는 데 어려움을 겪으며 운동 기능에서 높은 엔트로피를 보이는 것을 발견했어요. 그는 아바타를 직접 제어하여 올바른 그립을 보여주었고, 정확한 순간에 보상 신호를 보내 그 행동을 강화했어요.
배울 점자동화된 시스템이 어려움을 겪는 복잡한 작업에서는 인간의 직접적인 개입이 AI 학습을 가속화할 수 있어요.
- 2021창의
튜링 테스트에서의 영감
안드레이 카파시는 GPT-3에게 튜링 테스트를 수행한 케빈 라커의 글을 읽었어요. 여기서 영감을 받아 테스트를 받는 AI 모델의 관점에서 허구의 이야기를 썼어요.
배울 점외부의 실험이나 비판은 더 깊은 기술적 성찰을 위한 강력한 창의적 자극제가 될 수 있어요.
기본 기록 106개를 보고 있어요. 멤버십은 이 대가의 전체 기록 705개에서 답해요.
멤버십 알아보기같은 분야의 다른 대가
분야 전체 보기AI와 첨단 기술
공개 자료를 바탕으로 저희가 정리한 기록이에요. 안드레이 카르파티 본인이나 관계사와 제휴 · 후원 관계가 없어요. 내려야 할 내용이 있으면 알려 주세요. 내림 요청 창구