You are on page 1of 67

МЕТОДИ ВЈЕШТАЧКЕ

ИНТЕЛИГЕНЦИЈЕ
План: Семестар V (3+1+1)
Студијски програм: РИ
Студијски програм: ЕА; Усмјерење: Аутоматика
Предавања: Проф. Др Милорад Божић
Вјежбе: Александар Ацо Марковић
Области које се изучавају у оквиру
предмета
Системи вјештачке интелигенције (ВИ).
Процедурални, продукциони и системи
засновани на подацима. Хеуристичко
рјешавање проблема. Генетички алгоритми.
Фазифицација, фази инференција, и
дефазификација. Алати фази логике у
MATLAB-у. Архитектура и пројектовање
експертних система. Архитектуре неуронских
мрежа (НМ). Алгоритми обучавања.
Вишеслојне НМ. Алгоритам пропагације
грешке уназад (Backpropagation). Рекурзивне
НМ. Експертни системи засновани на НМ.
Предуслови за праћење

• Диференцијални рачун, функције више


промјенљивих, програмски језици
• Препоручени предмет (из скупа
изборних): Нумеричка математика
Образовни циљеви и компетенције

• Концепти који се користе у пројектовању


експертних система.
• Хеуристике у рјешавању проблема.
• Генетички алгоритми.
• Фази системи и фази логика. Експертни
системи засновани на фази логици.
• Неуронске мреже и алгоритми обучавања.
Архитектура и пројектовање система
заснованих на неуралним мрежама.
Везани предмети у току даљег
студија
• Управљање у реалном времену и
уграђени рачунарски системи
• Адаптивно управљање
Начин испитивања
 Испит се полаже путем израде
три пројектна задатка

 10% носи активно праћење наставе,


 60% пројектни задаци,
 30% усмени
Литература
• Stuart J. Russell and Peter Norvig, Artificial Intelligence A Modern
Approach, Prentice Hall, 2010(Third Edition)
• М.M.Milosavljević: Računarska inteligencija (pdf), Elektrotehnički
fakultet Banja Luka, 2006
• M.Jocković, Z.Ognjanović, S.Stankovski: Vještačka inteligencija:
Inteligentne mašine i sistemi, Krug, Beograd, 1997
• N.K.Kasabov: Foundations of Neural Networks, Fuzzy Systems, and
Knowledge Engineering, MIT Press, London 1998
• S. Haykin, Neural Networks a Comprehensive Foundation
(2nd),Prentice-Hall, Englewood Cliff, NJ, 1999
• C.M.Bishop: Pattern Recognition and Machine Learning , Springer,
2006
• M.M.Božić, Metodi vještačke inteligencije, Predavanja-prezentacije,
ETF Banja Luka, 2017/2018.
Увод у вјештачку интелигенцију

• Неке дефиниције и дилеме о ВИ


• Практичан приступ ВИ
• Примјери система ВИ
• Карактеристике система
• Моделовање и алгоритми
• Модели машинског учења
• Оптимизација
• Стање и перспективе развоја
Садашње стање

• Свуда наоколо се говори о овој области


(успјеси АИ у играма, напримјер шах и го, као
и у разумијевању читања, препознавању
говора, препознавању лица, медицинском
снимању).
• Велике корпорације ( , , ,
, и др.), као и велике
државе, доносе стратешке одлуке у погледу
инвестирања за истраживања и развој у АИ.
Појам интелигенције
• Ријеч интелигенција потиче од латинске
ријечи inteligere и значи разумјети, схватити.
Постоје многе дефиниције интелигенције које
за сада не дефинишу прецизно интелигенцију
као психичку функцију.
• Многи аутори се разилазе чак у разумијевању
суштине процеса интелигенције.
• Једни дефинишу да је интелигенција
способност рјешавања нових проблема и
сналажење у новонасталим ситуацијама.
Појам интелигенције(1)
• Други сматрају да интелигенција обухвата
способност апстрактног размишљања,
разумијевање узрока и посљедица неког
проблема, способност разликовања битног од
небитног, способност учења и прилогођавања
неком задатом циљу.
• Неки аутори се концентришу на способност лаког и
брзог учења и способност стицања нових
способности.
• Моћ глобалне способности особе укључујући
сврсисходну примјену свих напријед
наведених спосбности.
Појам интелигенције(2)
• Једна од главних особина људске
интелигенције је да се она развија на основу:
(1) генетски “ожичених” правила;
(2) искуства и учења за вријеме живота.
• Неопходно је разумијевање начина на који
мозак оперише на различитим нивоима
обраде информација у мозгу (когнитивном,
неуралном, генетичком и нивоу честица
информационог поља) и тада користити те
принципе код прављења интелигентних
машина.
Вјештачка Интелигенција

Могућност стицања &


примјене знања
Нешто што је
направио човјек
Стање или стварност знаног

Посједовање знања
интелигенције или
разумијевање

Оно што се зна потпуно


Дугорочни циљ ВИ
• Интелигентно понашање обухвата: перцепцију,
учење, комуницирање, резоновање, закључивање и
дјеловање у комплексним окружењима.
• Дугорочан циљ ВИ је развој вјештачких система
(машина) који могу да обављају све комплексне
задатке подједнако добро или/и боље од људи.
(Напримјер, боље од људи код оптималног
одлучивања када постоји неколико стотина
алтернатива и када се ради о вишедимензионалним
просторима.)
• Такође је важно имати у виду утицај који ВИ већ има
у рјешавању многих проблема.
Примјери постојећих система ВИ
• Превођење чланака из кинеског у енглески;
• Идентификација свих столица у једној слици;
• Транскрипција конверзације на састанку;
• Слагање веша послије прања;
• Доказивање нових теорема;
• Аутоматско писање одговора на неке електронске
поруке.
1. Постојећи системи су далеко од савршених и
постају неупотребљиви у случајевима када су улази
са великим сметњама и/или неструктуираних
окружења.
2. Иако се ради о врло различитим врстама
проблема видјећемо да се за њихово рјешавање
могу примијенити исти принципи и технике.
Рангирање веб страница [*]

• Када се претражују веб странице користе се алгоритми


машинског учења да се прикажу релевантне странице за
одређеног корисника.

[*] CS 229 Machine Learning


Препознавање рукописа

• Када се врше уплате помоћу чекова преко АТМ обавља се


препознавање рукописа како би се утврдио тачан износ који се
депонује.
Детекција лица

• На основу слика врши се детекција лица да би се обавила


идентификација особа или извршило ауто-фокусирање.
Преводиоци

• Ако се желе прочитати чланци писани на другом језику може се


користити машинско превођење на одговарајући језик.
Испоруке пошиљки

• ВИ игра важну улогу код испоруке пакета при чему се користе технике
претраживања, планирања и оптимизације у случајевима милиона
пакета и могућег избора, напримјер, више хиљада камиона и авиона
које стоје на располагању.
Аутономна возила

• У наредном времену суочићемо се са многим примјенама у


којима ће бити коришћена ВИ.
• Аутономна возила већ прелазе на хиљаде километара.
Виртуелни асистенти
• Са порастом броја мобилних уређаја, “паметних” возила и кућа,
и побољшања у препознавању говора, биће могућа интеракција
са рачунарима на бази природног језика и гестикулације.
• Постоје први покушаји (Apple's Siri,Google Now, Microsoft
Cortana) у баратању са једноставним исказима и акцијама
(напримјер, алармима и слању текстова). Технологија је још у
зачетку, али се очекује узбудљив и брз напредак на овом пољу.
Физички асистенти

• Ово је један примјер из физичког свијета који је развијен на UC


Berkeley (Pieter Abbeel).
• Ручници су јако неструктурирани објекти, јер могу заузимати
веома различите локације и позе (потребно је детектовати један
од врхова ручника па је роботу олакшан даљи посао).
Примјери система ВИ(1)
Карактеристике ВИ

• Велики социолошки утицај (утиче на милијарде


корисника)
Јасно је да се са ВИ апликацијама настоји постићи велики
утицај на глобалном нивоу.
• Разноврсност (језик, визија, роботика)
ВИ апликације се примјењују у врло различитим доменима и
захтијевају интегракцију са многим модалитетима (природни
језик, визија, роботика)
• Комплексност (реално врло велика)
ВИ апликације су изненађујуће умно комплексне, па се не могу
очекивати перфектна рјешења разматраних проблема.
Два извора комплексности проблема

• Машинско превођење: број могућих превода?


(број ријечи у ријечнику)(број ријечи у реченици) =1000020
Рачунска комплексност: експоненцијална експлозија
Можемо ријешити корисне проблеме у полиномијалном (П)
времену, али већина проблема ВИ су НП тешки за рјешавање.
Број могућих превода у наведеном примјеру је комплетно
апсурдан. Један од приступа би могао бити да се “паметно”
смањи величина ријечника са 10000 на рецимо 10. Али је и сада
број могућих превода сувише велик (1020).
Архитектура кластера

У 2011. су биле процјене да Google има 1М машина


Слика једног кластера
Супер рачунари
• Machine Makeover: A supercomputer is reborn [1]
Jaguar, XT5 partition(2011) Titan (2012)
Compute nodes 18,688 18,688
Log-in and I/O nodes 256 512
Memory per node 6 gigabytes 32 GB + 6 GB
Number of Opteron CPU cores 224,256 299,008
Number of Nvidia GPU accelerators 0 18,866
Total system memory 300 terabytes 710 TB
Total system peak performance 2.3 petaflops 20+ petaflops

[1] Source: AnandTech, 31 October 2012


Два извора комплексности
проблема(1)
• И када је расположива велика рачунарска моћ, то
није довољно у рјешавању неких проблема ВИ.

... Потребно је неко знање о проблему који се


рјешава.
Информациона комплексност: присутна је неизвјесност
Два извора комплексности
проблема(2)
• Претпоставимо да некоме који је затворен у соби (или неком
програму) стоје на располагању буквално неограничени
рачунарски ресурси и да се од њега (његовог програма)
захтијева превођење једне реченице.
Или да се изврши класификација слике неке птице као у горњем
примјеру.
Или код играња карата на аутомату, у примјеру извученог “аса”
и “шестице” мора да се донесе одлука: “удри” или “стани”.
• У свим овим случајевима пораст рачунарске моћи изнад неког
нивоа неће помоћи у рјешавању проблема. Потребно је неко
знање или информације у погледу језика, или из орнитологије
или о томе какво је програмско рјешење уграђено у аутомат за
картање како би се донијеле оптималне одлуке. Слично као и са
рачунарским ресурсима, и расположиво знање (информације) је
ограничено, па се код рјешавања ВИ проблема увијек мора
суочити са неизвјесностима (несигурностима).
Ресурси
Израчунавања (вријеме/меморија) Информације (подаци)

Што се тиче израчунавања, Што се тиче информација,


рачунари (брзи CPUs, GPUs, подаци су ресурс.
меморије, дискови, мрежна
пропусна моћ) су ресурс.

За ВИ је повољан велики пораст рачунарске моћи и сакупљених података у


посљедње двије деценије што омогућава рјешавање изазовних проблема.
Како се рјешавају проблеми

Задатак из реалног свијета Рачунарски програм

Реални проблеми су јако комплексни, тако да постоји


јаз између проблема из реалног свијета и писања
одговарајућег програмског кода.

Могући прилаз је коришћењем парадигме:


Моделовање- Инференција- Учење
Парадигма: моделовање

• Стварни задатак
1.Моделовање, гдје се
замeтни проблеми из реалног
свијета преводе у формалне
математичке објекте – моделе;
Моделовање
2. Алгоритме, помоћу којих се
проналазе ефикасни начини
за рјешавање формалних
Формални задатак (модел)
задатака из 1. етапе.
3.Моделе је могуће анализирати
Алгоритми помоћу рачунара.
4.Нажалост, модели су само
боља или лошија апроксимација
Програм реалности.
Парадигма: моделовање(1)
• Узмимо примјер система ВИ за навигацију у неком граду.

Реални свијет:

Модел:
Парадигма: инференција
• Инференција је давање одговора у складу са датим моделом.
Напримјер, имајући модел града у форми графа, могуће је
поставити питање која је накраћа путања између два мјеста у
граду или која је путања са најмањим утрошком горива и сл.

Inferencija

Predikcija
Парадигма: Учење

Model bez parametara

Podaci

Učenje

Model sa parametrima
Парадигма: Учење(1)
• Треба имати у виду да су реални проблеми (реални свијет)
веома комплексни, па су отуда уобичајено и сами модели врло
сложени. Али јако сложени модели се не могу записивати ручно.
• Идеја иза (машинског) учења је да одговарајуће моделе
добијамо на основу сакупљених података. Умјесто
конструисања модела, конструише се одговарајући скелет
модела (бира се структура, односно фамилија модела), то јест
модел без параметара.
• Послије тога, ако на располагању имамо прави тип података (и
довољан број) користећи алгоритме машинског учења врши се
подешавање параметара изабраног модела.
Моделовање и алгоритми

• Овим се врши подјела посла између онога што треба


израчунати (модели) и како треба обавити
израчунавање (алгоритми)
Модуларност између модела и алгоритама је добра основа за
успјешне методе, не само у ВИ него и другим дисциплинама.
• Предност: подјела посла
– Стварне задатке можемо замислити на вишем нивоу
апстракције (путем моделовања), тако да се добри
програмери могу усмјерити на јасне алгоритме који имају
дефинисане формалне спецификације.
Моделовање и алгоритми(1)

• У зависности од сложености проблема примјењују се


и одговарајуће класе модела.
• На једној страни, за проблеме који захтијевају низак
ниво И имамо моделе чија су рјешења заснована на
одлукама типа рефлекса, док за проблеме са
високим нивоом И имамо моделе базиране на
логичком резоновању.
• Примјер:
Традиционални програми за откривање и отклањање
грешака у тексту су врло сложени.
улаз сложени програм излаз
“лаи” “али”
Алгоритам (Примјер)

Формални задатак
• Улаз: Дата је листа L=[x1,x2,..,xn] и функција
• Излаз: k елемената са највећом оцјеном

Примјер:

Алгоритам 1: Пронађи први најбољи и уклони са листе, затим


други најбољи и тако редом.
Алгоритам 2: Сортирај L на основу f па издвоји k првих.
Алгоритми- примјери(1)
• Користећи алгоритме могуће је ријешити (или не) добро
дефинисане (некада до математичке прецизности) формалне
задатке на више начина правећи компромисе у погледу
рачунарских ресурса.
Стварни задатак
• Улаз: Листа од 1000 веб страница
• Излаз: 10 најрелеватнијих веб страница
Проблеми из стварног свијета нису добро дефинисани.
Напримјер, у овом задатку није најјасније што значи
релевантност поједине веб странице.
Путем моделовања стварни задаци се конвертују у формалне
задатке. Подесна функција оцјене релевантности f у нашем
примјеру може да укључује број ријечи у x који се такође
појављује у упиту корисника, PageRank од x који означава како
је популарна страница x, или комбинацију ових критеријума.
Алгоритми- примјери(2)

Моделовање

skup web stranica

Предност моделовања је у томе што се у функцију f може


укључити више софистицираних функција, а да се не мора
водити рачуна о детаљима израчунавања.
Формални задатак
Улаз: Листа и функција
Излаз: k елемената са највећом оцјеном.
Рефлексни модели
• Ово је најједноставнија класа модела. Овдје се за неки улаз x
једноставно израчунава нека функција f(x) као излаз. Напримјер, врши
се класификација тако да се за неки улаз x направи предикција f(x) која
може попримити вриједности позитивно или негативно.
• Рефлексни модели се састоје од малог скупа детерминистичких
правила која се односе на површне особине улаза (напримјер, које
ријечи садржи улаз).
Улаз: x
Излаз: f(x) једноставна функција од x
Примјер:
f је скуп једноставних правила
Ако се x састоји од “шаблона” тада је f негативно
Ако се x састоји од “иновација” тада је f позитивно
...
Рефлексни модели(1)
• Општији случај рефлексног модела

гдје су нека обиљежја која се односе на особине од


x, а тежински фактори за та обиљежја (features).
Тежински фактори се могу подесити помоћу неког од
алгоритама машинског учења.
Кључна идеја: Линеарни класификатор

• Рефлексни модели се користе за задатке класификације када је


излаз избор из неког скупа са малим бројем елемената.
Међутим, у многим проблемима (нпр, препознавање говора,
превођење с једног језика на други) излаз је много
компликованији (нпр, цијела реченица).
Рефлексни модели(2)
• Рефлексни модел на основу модела логичког резоновања
доносе “рефлексне” одлуке.
• Примјери: Линеарни класификатори, Дубоке НМ (Deep NN)

• Ово су најчешћи модели код машинског учења


Рефлексни модели(3)
• Користе пропагацију унапријед од улаза до излаза(feedforward,
тј. без повратних веза)
• Код рефлекснихх модела имамо фиксни број израчунавања за
улаз у текућем времену.
• Инференција код ових модела је тривијална, јер имамо
извршавање фиксних израчунавања, што их чини привлачним у
примјенама.
Модели засновани на концепту
стања
• Рефлексни модели су сувише једноставни за рјешавање
задатака који захтијевају много више промишљања (напримјер,
у игрању шаха или планирању дужег путовања).
• Стање неког реалног или замишљеног процеса је
окарактерисано одређеним скупом вриједности величина (нека
векторска величина) који је довољан за опис његовог понашања
и прелаза из једног у друго стање изазваних извршавањем
одређених акција. Конкретно, стања се могу замислити као
чворови неког графа, а прелази из једног у друго стање као
његове гране. Ово поједностављење је корисно, јер су графови
илустративни и постоје ефикасни алгоритми за претраживање
графова.
Модели базирани на концепту
стања(1)
• Стање обухвата све релевантне информације које се односе на
прошлост како би се на основу тога могло изабрати оптимално
дјеловање у будућем времену.
• Рјешења се могу представити као путање у графу.
• Кључна идеја је моделовање задатака из реалности помоћу налажења
путања (са најмањом цијеном коштања) кроз графове.
• Примјер реконструкције текста који је представљен графом на слици се
састоји у додавању одговарајућих самогласника и “размака” да би се
добио енглески израз.
Модели базирани на концепту
стања(2)
• Најједноставнији проблеми који се рјешавају помоћу ових
модела су претраживања, гдје се рјешење проблема
представља помоћу путање кроз граф од старта до циља.
• Стања одговарају чворовима (тјеменима) у графу,
• Посматрајмо проблем проналажења најјефтинијег путовања од
мјеста А до мјеста В кроз низ градова. Стање може да означава
град у којем се тренутно налазимо, али можда и количину
горива којом тренутно располажемо или текуће вријеме дана, у
зависности од постављеног задатка.
• Проблеми претраживања графова су адекватни модели када у
радним условима у окружењу нема неизвјесности.
• Маркови процеси одлучивања се примјењују када су познате
функције расподјела вјероватноћа.
• ....
Модели засновани на концепту
стања(3)
Примјене:
• Игре (шах, го и др.)
• Роботика: планирање кретања
• Природни језици: машинско превођење, описи уз слике и сл.
Модели засновани на концепту
стања(4)
• Задаци претраживања графова су адекватни за моделе када
се оперише у окружењу у коме не постоје никакве
неодређености (неизвјесности).

• Марковљеви процеси одлучивања су адекватни модели када


постоје неки елементи случајности и када су познате расподјеле
вјероватноће (напримјер, играње карата).

• Супарничке игре: против опонента (напримјер, шах).


Модели засновани на промјенљивим
• У моделима заснованим на концепту стања рјешења се добијају
процедурално: њима се дају инструкције корак по корак како да
се из стања А дође до стања Б.
• У многим апликацијама често пута није важан редослијед
корака.

• Циљ је да се у празне квадрате уносе цифре 1-9 тако да у свакој


колони и врсти табеле, као и у квадрату 3х3 нема понављања.
• Редослијед попуњавања није важан за вредновање рјешења!
Модели засновани на
промјенљивим(1)
• Проблеми типа задовољавања тврдих (hard) ограничења су
модели овог типа.
• Напримјер, претходно приказан проблем или посао резервације
мјеста у путовањима (летом или неким другим превозом) гдје
није могуће имати два тијела на истом мјесту у исто вријеме.
Модели засновани на
промјенљивим(2)
• Бајесовим мрежама је омогућено баратање са блажим (софт)
ограничењима, гдје се ради о случајним промјенљивим које су
међусобно зависне. Напримјер, стварни положај аута Ht и
одговарајуће мјерене величине Et су међусобно зависне, а
такође текући положај Ht зависи од положаја у претходном
тренутку Ht-1.

• Тачна структура зависности је дата структуром графа и


формално дефинисана заједничком расподјелом вјероватноће
свих промјенљивих
Машинско учење

Podaci

• Главни покретач успјеха ВИ у задње вријеме


• Подржава све врсте модела
• Омогућава да се информациона комплексност модела пренесе
са кодовања (сложена програмска рјешења) на коришћење
доступних података (било да се јављају природно или из
других извора)
• Модел добијен тренингом треба да даје добре предикције и за
податке који нису коришћени поступку тренирања-
генерализација
Модели машинског учења(1)
• Машинско учење омогућава систему да се адаптира на
промјене окружења. Идеја је у томе да се направи програм у
коме је могуће подешавати одређени број параметара.
• Тренинг примјери (тренинг скуп података) у почетку
специфицирају жељено понашање система. Алгоритам учења
на основу тренинг скупа подешава параметре како би се добила
апроксимација жељеног понашања.
• Након обучавања програм треба да даје добре резултате и за
примјере који нису коришћени (“невиђени” подаци) у фази
тренинга. Ово се назива генерализацијом, која је кључна
карактеристика код машинског учења.
Модели машинског учења(2)
• Алгоритам машинског учења максимализује тачност за тренинг
податке. Али, заправо је само важно каква ће бити
апроксимација за будуће “невиђене” (тест) примјере. Каква је
генерализација од тренинга до теста.
Тренинг подаци

Алгоритам учења

Програм
улаз излаз
параметри
Оптимизација
• Подсјетимо се да се поступком моделовања стварни проблеми
преводе у моделе који се рјешавају помоћу алгоритама. Моделе
можемо представити као оптимизационе проблеме, који
обезбјеђују математичку спецификацију шта се жели
израчунати.
• У оптимизационим проблемима се траже таква рјешења, за
неко x из ограниченог скупа C, у којима функција F(x) поприма
екстремно малу (или велику) вриједност.
• Два типа оптимизационих проблема који се често користе у ВИ:
- дискретни, који се рјешавају помоћу динамичког
програмирања,
- континуални, који се рјешавају неким од градијентних
поступака.
Оптимизација(1)
• Проблем инференције и учења се може посматрати као
проблем оптимизације што омогућава да се раздвоје
математичке спецификације шта се жели израчунати од начина
како се то израчуна.
• Дискретна оптимизација се углавном користи за рјешење
инференције, док се континуална користи првенствено за
рјешавање задатака машинског учења.
Оптимизација(2)
• Модели су оптимизациони проблеми:

• Дискретна оптимизација: x је дискретни објекат


Примјер:

Алгоритамски алат: динамичко програмирање


• Континуални оптимизациони проблем: x је вектор реалних
бројева
• Примјер

Алгоритамски алат: градијентни поступци


Циљеви вјештачке интелигенције
• Главни циљ ВИ је
РАЗВИТИ РАУНАРЕ КОЈИ СУ КОРИСНИЈИ ОД
ПОСТОЈЕЋИХ
• Ако се прихвати оптимистички, или бар
когнитивистички став, првом циљу се може додати и
други
Објаснити принципе на којима се заснива
интелигенција!
Стручњаци за рачунарске науке би на основу
резултата на плану ВИ требало да пронађу начин
како рачунаре учинити кориснијим, док би
психолозима, филозофима, лингвистима и другима
требало да се олакша разумијевање принципа на
којима се заснива И.
Шта могу да раде системи ВИ?[9]

[9] Pieter Abbeel, ”Artificial Intelligence-Lecture 1: Introduction”, UC Berkeley, 2011


DARPA1 Urban Challenge

• Аутономно возило

1The Defense Advanced Research Projects Agency (DARPA) is an agency


of the United States Department of Defense responsible for the development
of new technologies for use by the military.
АУТОНОМНО ВОЗИЛО ПРЕЛАЗИ ПУТ
ОД ИТАЛИЈЕ ДО КИНЕ и назад

•Ово возило је развијено на


Универзитету у Парми
(University of Parma) у
лабораторији
Artificial Vision and Intelligent
Systems
Laboratory, known as VisLab.
•Возило је било крцато са
рачунарима, камерама и
сензорима.
• Возило има могућност
детекције аута, трака, и
препрека – и да се само вози.
Вожња бицикла

• Проф. Mont Hubbard, UC Davis, са својим тимом жели да


развије динамичке моделе који ће тачно описати како људи возе
бицикле. Бицикл је опремљен сензорима и заједно са роботом
треба да омогући идентификацију кључних параметара који се
морају узети у обзир у поменутим моделима.
Пројекат треба да допринесе
повећању знања како дизајн
бицикла утиче на сигурност,
перформансе и наше
могућности да њиме
управљамо.
Велика визија

Аутономна самопокретна машина која дјелује,


резонује и учи интелигентно.

You might also like