第一个问题，就牵扯到AI如何把这些图作为输入了。现在的AI都是把这些图源直接看作像素点矩阵输入进去的，跟人眼看图类似。你可能会说，人的学习需要过程，跟AI的梯度下降不一样！但难道一个智障孩子学习就可以用盗版书，因为他比较笨吗？同样的，我们从danbooru上找发电材料，或是扒下图来转发到群里或贴吧里，这难道就不侵权吗？再或者，某些吧友从付费的fanbox里拿来图发到吧里免费给大伙看，这就不侵权吗？
所以我认为从根本上讲，这是输入来源、也就是盗版网站本身的问题，跟AI无关。一个脚本可以很轻松的获得几百万张图，一个人类可能需要扒一辈子，但这并不能作为人类跟AI不同、可以有豁免权的理由

第二个问题，关系到图和想法该怎么用数学表示。因为要讨论AI的问题，所以主要还是看AI是如何生成新图的。简单来讲，每张图被看作空间中的一个向量，而众所周知，一些向量就能张成一个空间（可能是仿射空间）。AI在学习了很多图片之后，它就在这些图片对应向量所张成的空间里
举一个最简单的例子：我们就考虑一个二维平面上的AI。众所周知，两点确定一条直线。假如说现在AI就学了两张图A和B，那它就处在点A和点B连成的直线上。也就是说，它生成的图基本都落在这条直线上。那么问题就来了：在这个平面上，到底哪些点算是盗图和抄袭，哪些点算是原创呢？如果给AI加上一些小小的扰动，它就有可能生成一张离AB这条直线很近的直线外的点对应的图，这算是抄了AB吗？更进一步的，就算它生成的图在AB这条直线上，那么哪些点算是抄A，哪些点算是抄B呢？问的更功利一点就是，这个平面上的哪些点可以商用呢？
二维平面的例子你可能会说很简单，但事实上一张画所处的维度至少是十万到百万量级，这时候问题就变得非常复杂了。连人类的作品都很难界定，就更别说AI了，这是一个很专业、又很模糊的问题

以上只是我的想法，仅供参考

智齿