Локальне генерування коду на домашньому ПК за допомогою AI (Qwen3.6-27b)

Як кажуть, цей день настав. Стало можливим запускати на домашньому ігровому комп'ютері LLM, які пишуть код. Або допомагають його писати. Якщо задача проста, то LLM може навіть написати все самостійно. Наприклад, я скомандував "Please create a Snake game. It should be one HTML file with JavaScript inside." і отримав HTML-сторінку з грою:

Можна спробувати зіграти

Можна пошуткувати, що подальший розвиток ШІ - це Game Over для програмістів.

Швидкість локального генерування коду, звичайно, не майже миттєва, як у серйозних online AI сервісів, але все одно більше, ніж у людини - і це дійсно вражає. Просто словами кажеш машині, що робити - і вона бере і робить!

Хочете повторити в себе вдома? Будь ласка, це просто. Потрібно лише мати сучасний ігровий комп'ютер. Як кажуть діти, - мамо, купи, бо це для навчання!

Як повторити дослід:

Якщо дані моделі LLM не вміщються у відеокарту, то навантаження можна розділити з процесором. На CPU все працює набагато повільніше, але що поробиш, коли немає 32 GB відеопам'яті, як в Nvidia 5090. Можливо трохи в цьому допоможе увімкнення Re-Size BAR (в BIOS увімкнути "Above 4G Encoding" On, "Resizable Bar" AUTO), але це не точно.

LM Studio з завантаженим генеративним ШІ може працювати, як offline Google, що одразу розповідає по темі питання. І, оскільки модель тренована на програмування, то вона може про нього розповісти:

LM Studio з Qwen3.6-27b відповідає на питання