최신 포스트들
New
#ai #llmQLoRA와 양자화
LoRA의 low-rank 어댑터 개념을 시작으로 QLoRA가 기본 모델 가중치를 4-bit로 양자화하는 원리, 선형 양자화 공식과 스케일 계산, 추론 시 발생하는 정보 손실을 정리한 문서.
#ai#llm#lora
글 읽기#ai #data-collection
데이터 수집과 비식별화, 품질 검증
정형·반정형·비정형 데이터 수집 기술과 데이터 변환, k-익명성·l-다양성·t-근접성 같은 비식별화 모델, 데이터 품질 검증 절차를 정리한 문서.
#ai#data-collection#data-crawling
글 읽기#ai #nlp
자연어 처리의 발전과 Self-Attention
TF-IDF와 RNN, 임베딩의 발전을 거쳐 seq2seq와 Self-Attention, 그리고 BERT·GPT로 이어지는 자연어 처리 기술의 흐름을 정리한 문서.
#ai#nlp#transformer
글 읽기#ai #machine-learning
지도학습과 Transformer 모델 학습
지도학습의 분류 문제와 로지스틱 회귀를 시작으로 Transformer의 Self-Attention 구조와 PyTorch 학습 루프를 정리한 문서.
#ai#machine-learning#supervised-learning
글 읽기더 많은 글 보기
지난 4년간 작성된 97개의 아티클을 탐험해보세요.
아카이브 바로가기