Што е вештачка интелигенција со отворен код

Што е вештачка интелигенција со отворен код?

За вештачката интелигенција со отворен код се зборува како за магичен клуч што отклучува сè. Не е. Но, тоа е практичен начин, без никакви дозволи, за градење системи со вештачка интелигенција што можете да ги разберете, подобрите и испорачате без да молите добавувач да го префрли прекинувачот. Ако сте се прашувале што се смета за „отворено“, што е само маркетинг и како всушност да го користите на работа, сте на вистинското место. Напијте се кафе - ова ќе биде корисно, а можеби и малку тврдоглаво ☕🙂.

Статии што можеби ќе ве интересираат по оваа:

🔗 Како да ја вклучите вештачката интелигенција во вашиот бизнис
Практични чекори за интегрирање на алатки за вештачка интелигенција за попаметен раст на бизнисот.

🔗 Како да користите вештачка интелигенција за да бидете попродуктивни
Откријте ефикасни работни процеси со вештачка интелигенција кои заштедуваат време и ја зголемуваат ефикасноста.

🔗 Што се вештини за вештачка интелигенција
Научете ги клучните компетенции за вештачка интелигенција кои се неопходни за професионалци подготвени за иднината.

🔗 Што е вештачка интелигенција на Google Vertex?
Разберете ја вештачката интелигенција Vertex на Google и како таа го поедноставува машинското учење.

Што е вештачка интелигенција со отворен код? 🤖🔓

Наједноставно кажано, вештачката интелигенција со отворен код значи дека состојките на еден систем со вештачка интелигенција - кодот, тежините на моделите, каналите за податоци, скриптите за обука и документацијата - се објавуваат под лиценци што им дозволуваат на сите да ги користат, проучуваат, менуваат и споделуваат, под разумни услови. Тој основен јазик за слобода доаѓа од Дефиницијата за отворен код и нејзините долгогодишни принципи за слобода на корисникот [1]. Превртувањето со вештачката интелигенција е што има повеќе состојки отколку само код.

Некои проекти објавуваат сè: код, извори на податоци за обука, рецепти и обучениот модел. Други ги објавуваат само тежините со прилагодена лиценца. Екосистемот понекогаш користи несоодветна кратенка, па ајде да го средиме во следниот дел.

Вештачка интелигенција со отворен код наспроти отворени тежини наспроти отворен пристап 😅

Ова е местото каде што луѓето се разменуваат меѓусебно.

  • Вештачка интелигенција со отворен код — Проектот ги следи принципите на отворен код низ целиот свој стек. Кодот е под лиценца одобрена од OSI, а условите за дистрибуција дозволуваат широка употреба, модификација и споделување. Духот овде го отсликува она што го опишува OSI: слободата на корисникот е на прво место [1][2].

  • Отворени тежини — Обучените тежини на моделите може да се преземат (честопати бесплатно), но под прилагодени услови. Ќе видите услови за користење, ограничувања за прераспределба или правила за известување. Семејството Llama на Meta го илустрира ова: екосистемот на код е отворен, но тежините на моделите се испорачуваат под специфична лиценца со услови базирани на употреба [4].

  • Отворен пристап — Можете да користите API, можеби бесплатно, но нема да ги добиете тежините. Корисно за експериментирање, но не е со отворен код.

Ова не е само семантика. Вашите права и ризици се менуваат низ овие категории. Тековната работа на OSI за вештачката интелигенција и отвореноста ги разоткрива овие нијанси на едноставен јазик [2].

Што ја прави вештачката интелигенција со отворен код всушност добра ✅

Да бидеме брзи и искрени.

  • Ревизија — Можете да го читате кодот, да ги проверувате рецептите за податоци и да ги следите чекорите за обука. Тоа помага при усогласеност, безбедносни прегледи и старомодната љубопитност. Рамката за управување со ризик од вештачка интелигенција на NIST охрабрува практики за документација и транспарентност што отворените проекти можат полесно да ги задоволат [3].

  • Прилагодливост — Не сте ограничени во мапата на патот на продавачот. Разделете го. Крпете го. Испратете го. Лего, не залепена пластика.

  • Контрола на трошоците — Самостоен хост кога е поевтино. Префрлување во облак кога не е. Комбинирајте и усогласувајте хардвер.

  • Брзина на заедницата — Грешките се поправаат, функциите се појавуваат, а вие учите од врсниците. Неред? Понекогаш. Продуктивно? Често.

  • Јасност на управувањето — Вистинските отворени лиценци се предвидливи. Споредете го тоа со Условите за користење на API кои тивко се менуваат во вторник.

Дали е совршено? Не. Но, компромисите се читливи - повеќе отколку што добивате од многу услуги со црна кутија.

Стекот со вештачка интелигенција со отворен код: код, тежини, податоци и лепак 🧩

Замислете проект со вештачка интелигенција како необична лазања. Слоеви насекаде.

  1. Рамки и времиња на извршување — Алатки за дефинирање, обука и опслужување на модели (на пр., PyTorch, TensorFlow). Здравите заедници и документи се поважни од имињата на брендовите.

  2. Моделски архитектури — План: трансформатори, модели на дифузија, поставувања со зголемено пребарување.

  3. Тежини — Параметрите научени за време на обуката. „Отворено“ овде зависи од правата за прераспределба и комерцијална употреба, а не само од можноста за преземање.

  4. Податоци и рецепти — Скрипти за курација, филтри, додатоци, распореди за обука. Транспарентноста овде е злато за репродуктивност.

  5. Алатки и оркестрација — Сервери за инференција, векторски бази на податоци, системи за евалуација, набљудување, CI/CD.

  6. Лиценцирање — Тивката основа што одлучува што всушност можете да правите. Повеќе подолу.

Лиценцирање 101 за вештачка интелигенција со отворен код 📜

Не мора да си адвокат. Треба да забележуваш шеми.

  • Лиценци за дозволив код — MIT, BSD, Apache-2.0. Apache вклучува експлицитно одобрување на патент што многу тимови го ценат [1].

  • Копилефт — семејството GPL бара дериватите да останат отворени под истата лиценца. Моќно, но испланирајте го тоа во вашата архитектура.

  • Лиценци специфични за моделот — За тежини и множества податоци, ќе видите прилагодени лиценци како што е семејството лиценци за одговорна вештачка интелигенција (OpenRAIL). Овие кодираат дозволи и ограничувања базирани на употреба; некои дозволуваат комерцијална употреба во широка смисла, други додаваат заштитни огради против злоупотреба [5].

  • Creative Commons за податоци — CC-BY или CC0 се вообичаени за множества податоци и документи. Атрибуцијата може да се управува во мал обем; изградете шема рано.

Професионален совет: Водете едностраничен лист со наведена секоја зависност, нејзината лиценца и дали е дозволена комерцијална прераспределба. Досадно? Да. Потребно? Исто така да.

Табела за споредба: популарни проекти со вештачка интелигенција со отворен код и каде тие блескаат 📊

малку неуредно намерно - така изгледаат вистинските белешки

Алатка / Проект За кого е наменето Премногу скапо Зошто функционира добро
PyTorch Истражувачи, инженери Бесплатно Динамични графикони, огромна заедница, силна документација. Тестирано во битка во продукција.
ТензорФлоу Претпријатиски тимови, ML операции Бесплатно Графички режим, TF-сервирање, длабочина на екосистемот. Побрзо учење за некои, но сепак солидно.
Трансформери со прегрнување на лице Градежници со рокови Бесплатно Претходно обучени модели, цевководи, бази на податоци, лесно фино подесување. Искрено, скратен пат.
vLLM Тимови со инфраструктурен ум Бесплатно Брзо LLM сервисирање, ефикасен KV кеш, силен проток на вообичаени графички процесори.
Llama.cpp Тинкери, рабни уреди Бесплатно Стартувајте модели локално на лаптопи и телефони со квантизација.
ЛангЧејн Развивачи на апликации, прототипери Бесплатно Композибилни синџири, конектори, агенти. Брзи победи ако го задржите едноставното.
Стабилна дифузија Креативци, тимови за производи Слободни тегови Генерирање слики локално или во облак; масивни работни процеси и кориснички интерфејси околу тоа.
Олама Програмери кои ги сакаат локалните CLI Бесплатно Локални модели „Повлечи и пушти“. Лиценците варираат во зависност од моделот - имајте го тоа предвид.

Да, многу „бесплатно“. Хостингот, графичките процесори, складирањето и работното време не се бесплатни.

Како компаниите всушност користат вештачка интелигенција со отворен код на работа 🏢⚙️

Ќе чуете две крајности: или секој треба сам да хостира сè, или никој не треба. Вистинскиот живот е помек.

  1. Брзо прототипирање — Започнете со пермисивни отворени модели за да ја потврдите корисничката интеракција и влијанието. Рефакторирајте подоцна.

  2. Хибридно сервисирање — Задржете го VPC-хостираниот или локален модел за повици чувствителни на приватноста. Вратете се на хостирано API за долга опашка или шилесто оптоварување. Сосема нормално.

  3. Фино подесување за тесни задачи — Адаптацијата на домени честопати е подобра од суровата скала.

  4. RAG насекаде — Генерирањето со зголемено пребарување ги намалува халуцинациите со заземјување на одговорите во вашите податоци. Отворените векторски бази на податоци и адаптери го прават ова пристапно.

  5. Edge и офлајн — Лесните модели составени за лаптопи, телефони или прелистувачи ги прошируваат површините на производот.

  6. Усогласеност и ревизија — Бидејќи можете да ги проверите внатрешните работи, ревизорите имаат нешто конкретно за преглед. Спојте го тоа со одговорна политика за вештачка интелигенција што се поврзува со категориите на RMF на NIST и упатствата за документација [3].

Мала забелешка: Тим за SaaS што го видов (среден пазар, корисници од ЕУ) кој е посветен на приватноста усвои хибридна поставеност: мал отворен модел во VPC за 80% од барањата; burst до хостиран API за ретки, долги контекстуални инструкции. Тие ја намалија латенцијата за вообичаената патека и ја поедноставија документацијата за DPIA - без да го варат океанот.

Ризици и неволји за кои треба да планирате 🧨

Ајде да бидеме возрасни во врска со ова.

  • Лиценцно поместување — Репозиториумот го стартува MIT, а потоа тежините се префрлаат на прилагодена лиценца. Чувајте го вашиот внатрешен регистар ажуриран или ќе испратите изненадување за усогласеност [2][4][5].

  • Потекло на податоци — Обука на податоци со нејасни права може да се одвива во модели. Следете ги изворите и следете лиценци за множества податоци, а не вибрации [5].

  • Безбедност — Третирајте ги артефактите на моделот како и секој друг синџир на снабдување: контролни суми, потпишани изданија, SBOM-ови. Дури и минимален SECURITY.md ја победува тишината.

  • Варијација на квалитетот — Отворените модели варираат во голема мера. Оценувајте со вашите задачи, а не само со табелите со резултати.

  • Скриени инфраструктурни трошоци — Брзото изведување бара графички процесори, квантизација, групирање, кеширање. Отворените алатки помагаат; сепак плаќате при пресметување.

  • Долг за управување — Ако никој не го поседува животниот циклус на моделот, добивате комплетни конфигурациски шпагети. Лесна листа за проверка на MLOps е злато.

Избор на вистинско ниво на отвореност за вашиот случај на употреба 🧭

Малку искривен пат до донесување одлуки:

  • Треба брзо да се испорача со мали потреби за усогласеност? Започнете со дозволиви отворени модели, минимално подесување, услуга во облак.

  • Ви треба строга приватност или офлајн ? Изберете добро поддржан отворен стек, самостојна инференција и внимателно разгледајте ги лиценците.

  • Потребни ви се широки комерцијални права и прераспределба? Претпочитате код усогласен со OSI плус модел лиценци кои експлицитно дозволуваат комерцијална употреба и прераспределба [1][5].

  • Ви е потребна флексибилност во истражувањето ? Одете на попустлив начин од почеток до крај, вклучувајќи ги и податоците, за репродуктивност и споделување.

  • Не сте сигурни? Пилотирајте ги обете. Едната патека очигледно ќе се чувствува подобро за една недела.

Како да оцените проект со вештачка интелигенција со отворен код како професионалец 🔍

Брза контролна листа што ја чувам, понекогаш на салфетка.

  1. Јасност на лиценцата — одобрено од OSI за код? Што е со тежините и податоците? Дали има ограничувања за употреба што го нарушуваат вашиот бизнис модел [1][2][5]?

  2. Документација — Инсталација, брз старт, примери, решавање проблеми. Документите се показател за културата.

  3. Каденца на изданија — Означените изданија и дневници на промени сугерираат стабилност; спорадичните потези сугерираат херојски дела.

  4. Референтни вредности и евалуации — Реални задачи? Дали евалуациите може да се извршат?

  5. Одржување и управување — Јасни сопственици на код, тријажа на проблеми, одзивност на односи со јавноста.

  6. Усогласеност со екосистемот — Добро се вклопува со вашиот хардвер, складишта на податоци, евидентирање, авторизација.

  7. Безбедносна положба — Потпишани артефакти, скенирање на зависности, ракување со CVE.

  8. Сигнал на заедницата — Дискусии, одговори на форуми, примери на репозиториуми.

За пошироко усогласување со доверливи практики, мапирајте го вашиот процес според категориите на NIST AI RMF и артефактите на документација [3].

Длабоко нурнување 1: неуредна средина на лиценците за модели 🧪

Некои од најспособните модели се наоѓаат во категоријата „отворени тежини со услови“. Тие се достапни, но со ограничувања на употреба или правила за прераспределба. Тоа може да биде во ред ако вашиот производ не зависи од препакување на моделот или испорака во кориснички средини. Доколку ви е потребно тоа, преговарајте или изберете друга база. Клучот е да ги мапирате вашите планови за преземање според самиот текст на лиценцата, а не според објавата на блогот [4][5].

Лиценците во стилот на OpenRAIL се обидуваат да постигнат рамнотежа: поттикнуваат отворено истражување и споделување, а воедно ја обесхрабруваат злоупотребата. Намерата е добра; обврските се сè уште ваши. Прочитајте ги условите и одлучете дали тие одговараат на вашиот апетит за ризик [5].

Длабоко нурнување 2: транспарентност на податоците и митот за репродуктивност 🧬

„Без целосни дампови на податоци, вештачката интелигенција со отворен код е лажна.“ Не баш. Потеклото и рецептите можат да обезбедат значајна транспарентност дури и кога некои сурови бази на податоци се ограничени. Можете да документирате филтри, соодноси на земање примероци и евристики за чистење доволно добро за друг тим да ги приближи резултатите. Совршената репродуктивност е убава. Практичната транспарентност е често доволна [3][5].

Кога множествата податоци се отворени, вообичаени се варијантите на Creative Commons како CC-BY или CC0. Припишувањето на изворот во голем обем може да биде незгодно, затоа стандардизирајте го начинот на кој се справувате со тоа уште на почетокот.

Длабоко нурнување 3: практични MLOps за отворени модели 🚢

Испораката на отворен модел е како испорака на која било услуга, плус неколку необичности.

  • Слој за сервисирање — Специјализираните сервери за инференција го оптимизираат групирањето, управувањето со KV-кешот и стриминг на токени.

  • Квантизација — Помали тежини → поевтино инференцирање и полесно распоредување на рабовите. Компромисите за квалитет варираат; мерете со вашите задачи.

  • Набљудливост — Евидентирајте ги упатствата/излезните податоци имајќи ја предвид приватноста. Пример за евалуација. Додадете проверки на отстапувања како што би направиле за традиционалното ML.

  • Ажурирања — Моделите можат суптилно да го менуваат однесувањето; користат канаринци и водат архива за враќање на претходните промени и ревизии.

  • Евалуациска опрема — Одржувајте пакет евалуации специфични за задачата, а не само општи критериуми. Вклучете контрадикторни потсетници и буџети за латентност.

Мини план: од нула до употреблив пилот во 10 чекори 🗺️

  1. Дефинирајте една тесна задача и метрика. Сè уште нема грандиозни платформи.

  2. Изберете пермисивен основен модел кој е широко користен и добро документиран.

  3. Поддржете го локалниот инференција и API со тенка обвивка. Нека биде здодевно.

  4. Додајте пребарување на излезите од земјата на вашите податоци.

  5. Подгответе мал етикетиран сет на евалуации што ги одразува вашите корисници, со сите недостатоци и сè.

  6. Фино подесување или брзо подесување само ако евалуацијата вели дека треба.

  7. Квантизирајте ако има латентност или трошоци. Повторно измерете го квалитетот.

  8. Додајте евидентирање, упатства за црвено здружување и политика за злоупотреба.

  9. Затворете ја портата со ознака за функции и објавете ја за мала кохорта.

  10. Итерирајте. Испраќајте мали подобрувања неделно… или кога навистина е подобро.

Чести митови за вештачката интелигенција со отворен код, малку разоткриени 🧱

  • Мит: отворените модели се секогаш полоши. Реалност: за целни задачи со вистинските податоци, фино подесените отворени модели можат да ги надминат поголемите хостирани.

  • Мит: отвореноста значи несигурност. Реалност: отвореноста може да го подобри надзорот. Безбедноста зависи од практиките, а не од тајноста [3].

  • Мит: лиценцата не е важна ако е бесплатна. Реалност: најважна е кога е бесплатна, бидејќи бесплатната ја намалува употребата. Сакате експлицитни права, а не вибрации [1][5].

Вештачка интелигенција со отворен код 🧠✨

Вештачката интелигенција со отворен код не е религија. Тоа е збир на практични слободи што ви овозможуваат да градите со поголема контрола, појасно управување и побрза итерација. Кога некој ќе каже дека моделот е „отворен“, прашајте кои слоеви се отворени: код, тежини, податоци или само пристап. Прочитајте ја лиценцата. Споредете ја со вашиот случај на употреба. А потоа, што е клучно, тестирајте ја со вашето вистинско работно оптоварување.

Најдобриот дел, чудно, е културен: отворените проекти покануваат придонеси и контрола, што има тенденција да ги направи и софтверот и луѓето подобри. Можеби ќе откриете дека победничкиот потег не е најголемиот модел или најсјајниот репер, туку оној што всушност можете да го разберете, поправите и подобрите следната недела. Тоа е тивката моќ на вештачката интелигенција со отворен код - не сребрен куршум, туку повеќе како добро истрошена мулти-алатка што постојано спасува ден.

Предолго време не прочитав 📝

Вештачката интелигенција со отворен код е за значајна слобода за користење, проучување, модифицирање и споделување на вештачки системи. Таа се појавува низ сите слоеви: рамки, модели, податоци и алатки. Не го мешајте отворениот код со отворени тежини или отворен пристап. Проверете ја лиценцата, евалуирајте ја со вашите реални задачи и дизајнирајте за безбедност и управување од првиот ден. Направете го тоа и ќе добиете брзина, контрола и помирен план. Изненадувачки ретко, искрено непроценливо 🙃.

Референци

[1] Иницијатива за отворен код - Дефиниција за отворен код (OSD): прочитај повеќе
[2] OSI - Длабок преглед на вештачката интелигенција и отвореноста: прочитај повеќе
[3] NIST - Рамка за управување со ризик од вештачка интелигенција: прочитај повеќе
[4] Мета - Модел лиценца за лама: прочитај повеќе
[5] Лиценци за одговорна вештачка интелигенција (OpenRAIL): прочитај повеќе

Пронајдете ја најновата вештачка интелигенција во официјалната продавница за асистенти за вештачка интелигенција

За нас

Назад кон блогот