KNN werden mit riesigen Datenmengen „gefüttert“ und trainiert. Dabei ist teilweise unklar, woher die Daten kommen, welche es genau sind und ob diese Daten eventuell urheberrechtlich geschützt sind. Dann würde durch die Verwendung als Trainingsdaten für die KI ein Urheberrechtsverstoß vorliegen. In dem Moment, wo die Daten in die KI eintrainiert werden, geschieht nämlich eine Vervielfältigung und diese steht grundsätzlich nur dem Urheber zu (§ 16), weshalb hier bereits eine relevante Nutzungshandlung vorliegt. Verwertungsgesellschaften wie die GEMA haben sich deshalb eine Lizensierung überlegt, mit der die urheberrechtlichen Daten, die zu Trainingszwecken genutzt werden lizensiert werden können und der Urheber somit für seine Leistung vergütet wird. Aufgrund der verwendeten Menge der Daten kann die Umsetzung hier jedoch schwierig werden. Ein weiteres Problem ist auch die Beweisführung dafür, dass das Werk tatsächlich zum Training der KI genutzt wurde. Neben der Input Seite, gibt es bei der KI aber auch noch die Output Seite. Also dann, wenn der Nutzer eine Anfrage an die KI sendet und diese ein Ergebnis ausspuckt. Auch hier können Urheberrechtsverstöße passieren. Nämlich dann, wenn die KI ein urheberrechtlich geschütztes Werk ausspuckt. Herr Dr. Kögel betonte jedoch, dass ein eindeutiger Urheberrechtsverstoß sehr schwer zu generieren ist, da die KI zu wissen scheint, dass dies nicht erlaubt sei.