Все репозитории

Код к книге Себастьяна Рашки: по шагам собираешь GPT-подобную модель на PyTorch, затем предобучаешь и дообучаешь её. Лучший способ понять, как LLM устроена изнутри.

Кому подойдёт

Тем, кто хочет разобраться в устройстве LLM, а не просто вызывать API.

Как начать

  1. Склонируй код: git clone --depth 1 https://github.com/rasbt/LLMs-from-scratch.git
  2. Настрой окружение по инструкции в setup/README.md
  3. Иди по главам из оглавления README и запускай ноутбуки

Шаги взяты из README. Перед запуском сверься с актуальной версией в репозитории.

Звёзды за последние 30 дней

+1 8386 сент. — 6 окт.
104 260106 098

Описание автора

Implement a ChatGPT-like LLM in PyTorch from scratch, step by step

Shubhamsaboo

awesome-llm-apps

Растёт быстрее всех

Большая коллекция готовых приложений на LLM: агенты, RAG-системы и навыки для кодинг-агентов. Каждый шаблон можно запустить и разобрать по частям.

141 тыс.звёзд+4,8 тыс. за 30 дн.Python

Бесплатный курс Microsoft из 21 урока: от основ генеративного ИИ и промптов до готовых приложений. К урокам прилагается код.

121 тыс.звёзд+2 тыс. за 30 дн.Jupyter Notebook

3b1b

manim

Движок для программных анимаций, на котором Грант Сандерсон делает видео 3Blue1Brown, в том числе знаменитые ролики про нейросети. Это не AI-библиотека, а инструмент, которым наглядно объясняют математику и ML.

95 тыс.звёзд+1,5 тыс. за 30 дн.Python

Курс по классическому машинному обучению на 12 недель: 26 уроков и 52 теста. Фундамент, без которого сложно понимать современные модели.

91 тыс.звёзд+1,2 тыс. за 30 дн.Jupyter Notebook

mlabonne

llm-course

Дорожная карта по LLM в трёх частях: основы, «учёный» (как строить модели) и «инженер» (как делать приложения). К темам приложены ноутбуки для Colab.

83 тыс.звёзд+1,1 тыс. за 30 дн.

Курс Microsoft из 18 уроков по созданию ИИ-агентов: инструменты, память, планирование, несколько агентов. Примеры кода лежат в папке code_samples.

76 тыс.звёзд+2,6 тыс. за 30 дн.Jupyter Notebook