Artificial intelligence on the edge: real-time object detection embarked on a drone

The integration of artificial intelligence(AI) in a drone belongs to the field known as AI on the edge. AI on the edge applications have more restricted requirements regarding the memory, energy consumption and computational power available with respect to a conventional deployment. This causes the application of optimization techniques to achieve the requirements that usually have a negative impact on the performance of the model. The aim of this project consists in researching and implementing techniques known as "Knowledge Distillation"(KD) applied to models that follow YOLO architectures that reduce the negative effect of the optimizations. In KD, one or more networks act as teachers and help a student network during its training stage to obtain better results. YOLOv3 and tiny-YOLOv3 networks have been successfully implemented from scratch and different KD techniques have been developed and their effects on the training studied. The preliminary results obtained validate these techniques to obtain better performance on optimized edge models. La integración de algoritmos de inteligencia artificial(IA) en un dron forma parte de una campo conocido como IA en el "edge". Las aplicaciones de IA en el "edge" tienen unos requerimientos más estrictos respecto a la memoria, consumo energético y potencia computacional disponible respecto a un despliegue convencional. Este hecho hace que se apliquen diferentes técnicas para optimizar los modelos que normalmente tienen un impacto negativo en el rendimiento del modelo. Este proyecto consiste en la investigación e implementación de técnicas conocidas como "Knowledge Distillation"(KD) en modelos de la arquitectura YOLO que reducen el efecto negativo de las optimizaciones. En los algoritmos de KD una o más redes neuronales actúan como profesor y ayudan a una red "estudiante" durante el entrenamiento para mejorar los resultados. Se han implementado con éxito las redes YOLOv3 y tiny-YOLOv3 y diferentes variaciones de técnicas de KD y se ha estudiado su impacto en el entrenamiento de la red estudiante. Los resultados preliminares obtenidos validan estas técnicas para obtener redes optimizadas para el "edge". La integració d'algoritmes d'intel·ligència artificial(IA) en un dron forma part del camp conegut com a IA en el "edge". Les aplicacions de IA en l'"edge" tenen uns requeriments més estrictes pel que fa a memòria, consum energètic i potència computacional disponible respecte a un desplegament convencional. Aquest fet fa que s'apliquin diferents tècniques per optimitzar els models que normalment tenen un impacte negatiu en el rendiment del model. Aquest projecte consisteix en la recerca i implementació de tècniques conegudes com a "Knowledge Distillation"(KD) en models de l'arquitectura YOLO que redueixen l'efecte negatiu de les optimitzacions. En els algoritmes de KD una o més xarxes actuen de professor i ajuden a una xarxa estudiant durant l'entrenament per millorar els resultats. S'han implementat amb èxit les xarxes YOLOv3 i tiny-YOLOv3 i diferents variacions de tècniques KD i estudiat el seu impacte en l'entrenament de la xarxa estudiant. Els resultats experimentals preliminars obtinguts validen aquestes tècniques per obtenir millores del rendiment de les xarxes optimitzades pel "edge".