Gastblog: Algoritmes in de kas, een black box voor telers?

Twee weken geleden hadden we bij op ons kantoor een mooie discussie met drie telers over autonoom telen met Crop Controller. We bespraken hoe ze het werken met AI beleven en wat betekent het voor hen als teler om vertrouwen te stellen in een algoritme? Lever je je over aan een black box? De term black box triggerde me: een black box heeft een negatieve lading. Je wilt niet vertrouwen op iets waarvan je geen idee hebt wat het doet. Liever een white box: een volledig uitlegbare techniek, waarvan je elke stap kan volgen.

De vraag is: werkt dat zo? Vertrouw je pas op technologie als je de werking volledig snapt? Je start je auto en voordat je het weet gaan de wielen draaien. Een deel van dit proces snap je, maar voor een groot deel is het complexe technologie waar je geen weet van hebt hoe het werkt. Toch vertrouw je je leven eraan toe.

Het uitgangspunt bij Blue Radix is dat we algoritmes ontwikkelen die goed te gebruiken zijn door mensen en hele praktische waarde toevoegen. Ons team bestaat uit een flink aantal specialisten met een wiskundige achtergrond en diepgaande kennis van algoritmes. Om hun werk goed te doen trekken ze nauw op met telers, teeltspecialisten en collega's die gespecialiseerd zijn in de ontwikkeling van gebruiksvriendelijke schermen. Door deze interactie ontstaan oplossingen die niet alleen technisch vernuftig zijn, maar ook uitlegbaar en door telers in de praktijk te hanteren. Dit is niet een stap achteraf maar het ligt juist aan de basis van elke ontwikkeling die we doen.

Het black box effect voorkomen we met een aantal ingrepen: door het probleem van de teler op te knippen in deelstappen. Door inzicht te geven in de data die een algoritme in- en uitgaat. En door de teler invloed te geven en steeds de eigen strategie van de teler als uitgangspunt te nemen. Tegelijk zoeken we steeds naar nieuwe verbeterstappen waarmee we resultaten halen die als mens niet te realiseren zijn.

Daarnaast bieden algoritmes allerlei mogelijkheden om inzicht te krijgen in de wijze waarop een beslissing tot stand komt. Dit levert vaak verrassende inzichten op, ook voor de teler. Vaak denken we als mens dat een bepaalde factor van cruciaal belang is, terwijl uit data analyse blijkt dat dit maar een beperkte rol speelt. Regen is een mooi voorbeeld: recent hebben we het effect van regen op de kastemperatuur geanalyseerd. Regen heeft een effect maar dit is heel subtiel: regen beďnvloedt vooral de buitentemperatuur, die weer de kastemperatuur beďnvloed. Intuďtief zegt iedereen dat regen een direct verband heeft met de temperatuur in de kas. Je eigen intuďtie is zeker niet altijd goed uitlegbaar, laat staan dat het altijd correct is.

De vraag rond de uitlegbaarheid van AI modellen is terecht. Gewoon accepteren dat het een black box is, is een zwaktebod. Dat was ook één van de conclusies in gesprek met de telers. Een goede balans tussen uitlegbaarheid, interesse en vertrouwen op basis van de resultaten is essentieel. Zo wordt werken met algoritmes voor iedere teler mogelijk. Tegelijk is het goed om jezelf af te vragen: 'In hoeverre ben ik zelf een black box'?

Bron: Rudolf de Vetten