본문 바로가기

고성능

JAX/Flax로 딥러닝 레벨업 LLM 시대를 선도하는 최적의 딥러닝 라이브러리 JAX/Flax JAX(잭스)는 대규모 계산의 확장성을 염두에 두고 설계된 고성능 라이브러리로, LLM 시대 애물단지로 전락한 파이토치를 빠르게 대체하고 있다. 모두의연구소 JAX/Flax LAB이 집필한 이 책은 JAX, 그리고 JAX와 함께 쓰이는 Flax(플랙스)를 본격적으로 다루는 국내 최초의 책이다. JAX 기초와 함수형 프로그래밍, 병렬처리 등의 특장점을 살펴보고, JAX와 Flax를 조합해서 CNN, ResNet, DCGAN, CLIP 모델을 실제로 구현해본다. 새로운 시대, 새로운 딥러닝의 방식을 익혀보자. 도서구매 사이트(가나다순)  [교보문고]  [도서11번가]  [알라딘]  [예스이십사]  [인터파크]  [쿠팡]  전자책 구매 사이트(가.. 더보기
파이토치는 죽었다. JAX 무병장수하소서 최근 커뮤니티를 뜨겁게 했던 글이 있습니다. 국내에 번역 요약문도 올라왔죠. https://news.hada.io/topic?id=16369 이 번역글에서 한 줄로 요약한 바에 따르면 내용은 이렇습니다. PyTorch가 생산성 손실과 개발 시간 낭비를 초래하는 이유는 "프레임워크 자체가 나쁘기 때문이 아니라, 현재 적용되는 유스케이스에 맞게 설계되지 않았기 때문"  원래 글에도 써 있듯, 텐서플로의 불편한 부분(정적, 지연 실행)을 해결하기 위해 파이토치(동적, 즉시 실행)가 나타나 득세했지만, LLM(GPT-3)이 등장하며 확장성의 문제로 다시 텐서플로스러운 접근법이 선호받게 되었다는 점이 뭔가 아이러니합니다. 영원한 1등은 없다는 말이 새삼 느껴지기도 하고요. 보내줄게 네가 지치지 않게 JAX가 새로.. 더보기