<!DOCTYPE html>
<html>
  <head>

    <meta http-equiv="content-type" content="text/html; charset=UTF-8">
  </head>
  <body>
    <p>Hi,</p>
    <div class="moz-forward-container">Also putting the PSC in the loop
      for those who might have skipped that discussion, since this is a
      project-level topic.</div>
    <div class="moz-forward-container"><br>
    </div>
    <div class="moz-forward-container">Even</div>
    <div class="moz-forward-container"><br>
    </div>
    <div class="moz-forward-container">-------- Message transféré
      --------
      <table cellpadding="0" cellspacing="0" border="0"
        class="moz-email-headers-table">
        <tbody>
          <tr>
            <th valign="BASELINE" align="RIGHT" nowrap="nowrap">Sujet :
            </th>
            <td>[QGIS-Developer] [Poll created] Re: "Human In The Loop"
              Policy For AI/Tool-Assisted Contributions</td>
          </tr>
          <tr>
            <th valign="BASELINE" align="RIGHT" nowrap="nowrap">Date : </th>
            <td>Sat, 7 Feb 2026 00:30:59 +0100</td>
          </tr>
          <tr>
            <th valign="BASELINE" align="RIGHT" nowrap="nowrap">De : </th>
            <td>Even Rouault via QGIS-Developer
              <a class="moz-txt-link-rfc2396E" href="mailto:qgis-developer@lists.osgeo.org"><qgis-developer@lists.osgeo.org></a></td>
          </tr>
          <tr>
            <th valign="BASELINE" align="RIGHT" nowrap="nowrap">Répondre
              à : </th>
            <td>Even Rouault <a class="moz-txt-link-rfc2396E" href="mailto:even.rouault@spatialys.com"><even.rouault@spatialys.com></a></td>
          </tr>
          <tr>
            <th valign="BASELINE" align="RIGHT" nowrap="nowrap">Pour : </th>
            <td>Vincent Picavet <a class="moz-txt-link-rfc2396E" href="mailto:vincent.ml@oslandia.com"><vincent.ml@oslandia.com></a>, Greg
              Troxel <a class="moz-txt-link-rfc2396E" href="mailto:gdt@lexort.com"><gdt@lexort.com></a>, Even Rouault via
              QGIS-Developer <a class="moz-txt-link-rfc2396E" href="mailto:qgis-developer@lists.osgeo.org"><qgis-developer@lists.osgeo.org></a></td>
          </tr>
        </tbody>
      </table>
      <br>
      <br>
      Vincent,<br>
      <br>
      Thanks for your feedback. Yes copyright / IP issues are a tricky
      problem to deal with and you make good points on how things could
      go wrong. That said, in practice I believe most generated code
      would be mostly derived from QGIS itself, QT code or doc or be
      non-copyrightable material. I can imagine though that
      contributions including non-trivial algorithms could possibly be
      infringing copyright. In that situation, the reviewers could ask
      the submitter to bring more light on the provenance of such code
      (the contributor may ask the LLM to dig for references for the
      provenance and check they are OK with GPL2 inclusion, being aware
      that the LLM could hallucinate them...), and if no satisfactory
      answer is given, reject the contribution. But that can be
      admitedly hard to spot for reviewers. I'd be happy to amend the
      QEP with that if someone can propose an adequate formulation.<br>
      <br>
      I've doubts a "no AI" policy is achievable in practice, or people
      will lie.  As you mention, we can require people to mention the
      tool they have used, possibly the prompt(s) they use, which manual
      modifications they applied on top of that.  Doesn't the paragraph
      starting at line 35
(<a class="moz-txt-link-freetext" href="https://github.com/qgis/QGIS-Enhancement-Proposals/pull/363/changes#diff-4f4102e51f04fdfc82e843c6942abe9965c03ac85a92e9becf21bcca8b5571adR35">https://github.com/qgis/QGIS-Enhancement-Proposals/pull/363/changes#diff-4f4102e51f04fdfc82e843c6942abe9965c03ac85a92e9becf21bcca8b5571adR35</a>)
      cover enough your point about "have a mandatory mention and
      description of LLM usage for each contribution" ?<br>
      <br>
      The main driver for this QEP was to give us a tool to be able to
      quickly reject sloppy contributions with a solid reference to back
      our decisions, but we must indeed decide whether we go further
      than this.<br>
      <br>
      For that purpose, I've created a quick poll at
<a class="moz-txt-link-freetext" href="https://docs.google.com/forms/d/e/1FAIpQLSdnVWoD5DrwCbNXqPqHsLw2jfbLkPMKBkvfyQfTQOPZkj_EaQ/viewform">https://docs.google.com/forms/d/e/1FAIpQLSdnVWoD5DrwCbNXqPqHsLw2jfbLkPMKBkvfyQfTQOPZkj_EaQ/viewform</a>
      so we can gather opinions on the general direction we want on that
      subject. All, please fill!<br>
      <br>
      Even<br>
      <br>
      Le 06/02/2026 à 18:01, Vincent Picavet via QGIS-Developer a
      écrit :<br>
      <blockquote type="cite">Hi,<br>
        <br>
        I would double-down on Greg Troxel's advice concerning copyright
        issues, especially concerning the introduction of LLM-generated
        code into QGIS codebase.<br>
        <br>
        Opensource's success is based on these main characteristics :
        quality, security, trust.<br>
        <br>
        AI contributions pose a threat to quality, security and trust
        alike.<br>
        <br>
        A human-in-the-loop policy for contributions written with AI may
        help for quality and security issues, but will still leaves a
        huge problem for trust.<br>
        <br>
        Among the various aspects of trust, what worries me most right
        now is the copyright issue. OpenSource software is based on
        intellectual property laws, and especially on copyright, to be
        able to derive copyleft and grant more rights to end-users.<br>
        <br>
        End-user trust opensource software from a legal point of view
        because :<br>
        <br>
        - they are backed by well-established copyright laws<br>
        <br>
        - they have clear and well established end-users contracts (
        opensource licences )<br>
        <br>
        - they have a full record of modifications of the source code,
        hence a full lineage and certification of IP rights for the code<br>
        <br>
        - also, foundations like OSGeo additionnaly put a stamp on the
        software to guarantee that process and initial IP can be trusted
        enough to have a legal insurance concerning the software<br>
        <br>
        Introducing IA black boxes into the development process breaks
        the ability to control the lineage of the code and guarantee
        that it is a genuine invention, and therefore allowed to be
        licenced under the GPL.<br>
        <br>
        For quality and security, a developer can always intrinsically
        assess that the generated code has the required level of
        quality, and that it does not include any security flaw.<br>
        <br>
        But **there is no way for a developer to evaluate the IP rights
        on a code generated by a LLM**. How would one do it, since the
        code has been generated through a total opaque black box
        ingesting non-identified enormous volumes of data ?<br>
        <br>
        Today, we definitely know that LLMs ( ChatGPT, Claude and others
        ) have been trained on illegal copyrighted material. It is
        proven that they trained LLMs on pirated books. Furthermore,
        every time someone complaints about IP violation by LLM, big
        corps settle a financial arrangement with the copyright owners
        and move on.<br>
        <br>
        There is therefore no doubt that they have also trained LLMs on
        proprietary code. And also on opensource code not compliant with
        GPLv2+.<br>
        <br>
        Big corp. currently hide behind a "fair use" argument, but this
        is clearly rubbish, otherwise why would they bother to settle
        large financial deals with copyright owners ?<br>
        <br>
        So, LLM-generated code contributed to QGIS will at some point be
        plagiarized from random code available on the internet, and
        neither QGIS.org nor the contributor will be able to know.<br>
        <br>
        If we start accepting such code without being able to check
        provenance or copyright issues, it will end up buried deep
        inside QGIS, and the day we will discover that it infringes
        copyright, it will be a nightmare to solve : in this case we
        will want to revert all incriminated code, and also all code
        depending on the plagiarized code **and have it rewritten from
        scratch by someone who has never read the plagiarized code** (
        ref : SCO/UNIX for example ). This is almost impossible.<br>
        <br>
        This would be a nightmare, just for one identified contribution.<br>
        <br>
        Even more, if/when the fair-use principle of LLMs falls down,
        then all LLM-generated code should be removed from QGIS, and all
        code depending on it. This is a really high risk with high
        impact.<br>
        <br>
        You may say : "ok but everyone does it, the chances of being
        caught are low, why not benefit from the opportunity ?"<br>
        <br>
        Then what about "everyone copies GPL code into proprietary code,
        the chances of being caught are low, why not benefit from the
        opportunity ?"<br>
        <br>
        Copyright is at the foundation of OpenSource software, and
        especially GPL-based software. If we choose to deny it, then we
        loose our core principle.<br>
        <br>
        In the text Even propose, there is a copyright section, pushing
        the responsibility of IP compliance control back to the
        contributor. It may protect QGIS.org or other developers from
        being sued whenever there is a problem, or they could sue back
        the faulty contributor, but this is not enough :<br>
        <br>
        - the faulty contributor has no way to ensure his generated code
        has no IP issue ( other than NOT using LLMs ) : responsibility
        without any mean of action is not fair and sustainable<br>
        <br>
        - even if the QGIS projet can avoid being convicted by
        transferring responsibility, then the situation would still be
        open and be a nightmare : removing plagiarized code entangled
        down the core of the software and all its dependency code, and
        rewrite it without IP issue is really hard<br>
        <br>
        Therefore, I do not think this mention is enough for IP
        protection.<br>
        <br>
        This rationale concerns the generated code itself, contributed
        to QGIS or other software in the ecosystem. LLMs may be useful
        and without IP risks to help find bugs, write parts of
        documentations where there is no risk of plagiarism, or other
        use cases.<br>
        <br>
        But I would definitely **forbid any generated code to be
        introduced into the main source code because of IP risk**.<br>
        <br>
        Also, the least we can do for any contribution, is not only to
        have a human in the loop, but also to have a mandatory mention
        and description of LLM usage for each contribution. This would
        at least give traceability. It does not solve anything, but in
        case of a problem, we could at least start to investigate.<br>
        <br>
        A am glad this conversation takes place, and willing to pursue
        the discussion, sorry for having been long.<br>
        <br>
        Have a nice weekend,<br>
        <br>
        Vincent<br>
        <br>
        <br>
        <br>
        <br>
        <br>
        On 31/01/2026 01:01, Greg Troxel via QGIS-Developer wrote:<br>
        <blockquote type="cite">I would suggest a much stronger policy:<br>
          <br>
             no LLM-generated code or discussion may be submitted to any
          QGIS forum<br>
          <br>
          <br>
          The idea that LLM-generated code has been "reviewed" intends
          to be that<br>
          it is of high enough quality that it is reasonable for
          *humans* to spend<br>
          time reviewing it.  But I don't believe that asking that it be
          reviewed<br>
          will achieve that in practice.<br>
          <br>
          I've already had the experience (in a different project) of
          seeing a<br>
          posted PR(ish, patch on list), taking the time to comment, and
          getting<br>
          LLM-generated (vacuous) replies to my comments.<br>
          <br>
          Besides the ethical problems with asking humans to review,
          improve,<br>
          judge or in any other way pay attention to LLM output, there's
          the<br>
          problem of copyright.  While machine-generated text isn't
          copyrightable<br>
          as is, LLM output is a derived work of stolen human work,
          scraped<br>
          and used without permission, often as DDOS.<br>
          <br>
          On the basis of each reason, I believe the policy about LLM
          should just<br>
          be "no".<br>
          _______________________________________________<br>
          QGIS-Developer mailing list<br>
          <a class="moz-txt-link-abbreviated" href="mailto:QGIS-Developer@lists.osgeo.org">QGIS-Developer@lists.osgeo.org</a><br>
          List info:
          <a class="moz-txt-link-freetext" href="https://lists.osgeo.org/mailman/listinfo/qgis-developer">https://lists.osgeo.org/mailman/listinfo/qgis-developer</a><br>
          Unsubscribe:
          <a class="moz-txt-link-freetext" href="https://lists.osgeo.org/mailman/listinfo/qgis-developer">https://lists.osgeo.org/mailman/listinfo/qgis-developer</a><br>
        </blockquote>
        _______________________________________________<br>
        QGIS-Developer mailing list<br>
        <a class="moz-txt-link-abbreviated" href="mailto:QGIS-Developer@lists.osgeo.org">QGIS-Developer@lists.osgeo.org</a><br>
        List info:
        <a class="moz-txt-link-freetext" href="https://lists.osgeo.org/mailman/listinfo/qgis-developer">https://lists.osgeo.org/mailman/listinfo/qgis-developer</a><br>
        Unsubscribe:
        <a class="moz-txt-link-freetext" href="https://lists.osgeo.org/mailman/listinfo/qgis-developer">https://lists.osgeo.org/mailman/listinfo/qgis-developer</a><br>
      </blockquote>
      <br>
      <pre class="moz-signature">-- 
<a class="moz-txt-link-freetext" href="http://www.spatialys.com">http://www.spatialys.com</a>
My software is free, but my time generally not.

_______________________________________________
QGIS-Developer mailing list
<a class="moz-txt-link-abbreviated" href="mailto:QGIS-Developer@lists.osgeo.org">QGIS-Developer@lists.osgeo.org</a>
List info: <a class="moz-txt-link-freetext" href="https://lists.osgeo.org/mailman/listinfo/qgis-developer">https://lists.osgeo.org/mailman/listinfo/qgis-developer</a>
Unsubscribe: <a class="moz-txt-link-freetext" href="https://lists.osgeo.org/mailman/listinfo/qgis-developer">https://lists.osgeo.org/mailman/listinfo/qgis-developer</a>
</pre>
    </div>
  </body>
</html>