CPU에서 1.2시간 만에 LLM 훈련 — MatMul-Free 아키텍처의 가능성
GPU 없이 CPU만으로 1.2시간 만에 1,360만 파라미터 언어 모델을 훈련한 FlashLM v3 사례를 분석합니다. 곱셈을 제거한 삼진 가중치 기반 MatMul-Free 아키텍처의 원리와 메모리·에너지 효율, 엣지 AI와 저비용 학습에 주는 시사점까지 짚어봅니다.
태그
machine-learning
2개 글
ICML 논문에 프롬프트 인젝션 삽입 — 학술 AI 심사의 취약성
ICML에 제출된 논문 PDF에 "특정 문구를 리뷰에 포함하라"는 프롬프트 인젝션이 숨겨진 사건이 발각됐습니다. AI 심사에 의존하는 학술 peer review의 구조적 취약성과 공격 원리, 실제 위험 시나리오, 그리고 학계가 마련해야 할 방어책까지 기술적으로 해설합니다.