Reseña de lectura y experiencia del desafío del capítulo 7 de "밑바닥부터 만들면서 배우는 LLM"

힘센캥거루
2025년 12월 19일(수정됨)
1
8

El contenido del capítulo 7 trata sobre el proceso de ajustar finamente el modelo para que siga instrucciones.

Es hacer que responda como se espera ante una determinada pregunta.

Como siempre, lo que se necesita es dato.

1. Procedimiento de fine-tuning para instrucciones

Reseña de lectura y experiencia del desafío del capítulo 7 de "밑바닥부터 만들면서 배우는 LLM"-1

Lo esencial aquí es preparar un dataset de preguntas y respuestas y entrenarlo como pares de entrada‑salida.

A esto se le llama estilo de prompt.

El resto es parecido a los pasos anteriores: tokenizar el contenido, entrenar y evaluar; el proceso es similar.

2. Reseña del desafío

Reseña de lectura y experiencia del desafío del capítulo 7 de "밑바닥부터 만들면서 배우는 LLM"-2

Viendo que el desafío se extendía durante 6 semanas, empecé con la confianza de pensar ¡Un solo libro como este me lo acabo enseguida!, pero al final fui derrotado.

Solo para entender el significado se me fue bastante tiempo.

La verdad es que también estaba ocupado.

Durante unas dos semanas estuve preparando la clase de astronomía y no llegaba a casa hasta pasadas las 10 cada día, y al llegar a casa los peques me estaban esperando.

Aun así, me elogio por desafiarme una y otra vez de esta forma, me doy un pequeño empujón más y renuevo mi determinación de escuchar con ganas las clases de código que me quedan en Inflearn.

관련 글

Reseña de lectura del capítulo 6 de "Aprendiendo LLM desde cero"
Reseña de lectura del capítulo 6 de "Aprendiendo LLM desde cero"
El capítulo 6 trata sobre el fine-tuning para clasificación.El ejemplo que aparece es la creación de un clasificador de spam.Como el clasificador de s...
Reseña de lectura del capítulo 5 de «Aprender LLM construyéndolo desde cero»
Reseña de lectura del capítulo 5 de «Aprender LLM construyéndolo desde cero»
Hoy es 14 de diciembre.En realidad, el período del desafío ya terminó hace 2 semanas, pero aun así no podía renunciar a escribir la reseña.Porque esto...
Aprendiendo a crear un LLM desde cero – Reseña del capítulo 4
Aprendiendo a crear un LLM desde cero – Reseña del capítulo 4
Hoy es 26 de noviembre, así que si leo un capítulo al día, habré completado el reto.No sé si será posible con las interrupciones del primero y del seg...
Reseña de la lectura del capítulo 3 de LLM aprendiendo desde cero
Reseña de la lectura del capítulo 3 de LLM aprendiendo desde cero
Después de derramar agua sobre mi MacBook, entré en crisis y perdí alrededor de 3 a 4 días. Ahora que lo pienso, debería haber hecho algo, pensando que mi MacBook ya estaba arruinada y que la mandaría a reparar de todas formas. Aunque estoy un poco atrasado, quiero dejar mi reseña del capítulo 3 porque creo que debo continuar hasta el final. 1. Mecanismo de atención Capítulo 3...
Reseña del capítulo 2 de LLM construyendo desde cero
Reseña del capítulo 2 de LLM construyendo desde cero
Ya es la segunda semana participando en el desafío. Hasta ayer no había terminado el capítulo 2, pero aprovechando un retiro de 1 noche y 2 días, logré avanzar hasta la medianoche codificando. 1. Contenido. El contenido del capítulo 2 se centró en la tokenización de palabras, codificación, decodificación y vectores de incrustación. Ya me había familiarizado con crear un codificador one-hot, pero el contenido de los vectores de incrustación era nuevo para mí...
Recomendación de OCR para MacBook
Recomendación de OCR para MacBook
Parece que he probado todos los OCR disponibles para reconocer informes médicos de estudiantes. Probé Tesseract, EasyOCR, PaddleOCR y otros, pero ninguno ofrecía un rendimiento satisfactorio con coreano. Sin embargo, recientemente encontré una biblioteca de Python que utiliza la función de Texto en Vivo de MacBook...

댓글을 불러오는 중...