밑바닥부터 만들면서 배우는 LLM 7장 독서 후기 및 챌린지 후기

7장 내용은 지시를 따르도록 미세 튜닝하는 과정이다.

어떤 질문에 대해 기대하는 응답을 하도록 하는 것.

역시나 필요한 것은 데이터이다.

1. 지시 미세 튜닝 절차

여기서의 핵심은 질문-응답 데이터 셋을 준비하여 입력-출력 쌍으로 훈련시키는 것.

이걸 프롬프트 스타일이라고 한다.

다른건 이전 과정과 마찬가지로 내용을 토큰화 하고, 학습시키고, 평가하는 과정은 비슷하다.

2. 챌린지 후기

6주라는 긴 챌린지 기간을 보며, 이 한권 정도야 금방 끝내지!하는 자신감으로 시작했으나 결국 패배했다.

의미만 이해하는데도 꽤나 많은 시간을 소모했다.

사실 바쁘기도 했다.

2주 정도는 천문교실을 준비하느라 매일 10시 넘어서 집에 들어왔고, 집에 들어오면 또 아기들이 나를 기다리고 있었으니 말이다.

그래도 매번 이렇게 도전하는 스스로를 대견하다 칭찬하며 한번 더 힘을 내며, 인프런에서 남은 코드 강의도 열심히 들어야 겠다는 다짐을 해본다.