Le 23 décembre 1891, des élections provinciales furent décrétées et le scrutin fut fixé au 8 mars 1892. Le député conservateur du comté de Wolfe, Jacques Picard, qui terminait son mandat et qui ne voulait pas se représenter, dirigea une délégation du comté en vue de solliciter la venue de J.A. Chicoyne comme représentant conservateur dans cette élection provinciale.
J.A. Chicoyne accepta de faire le saut en politique provinciale et le 8 mars, il fut élu député du comté de Wolfe. À deux autres reprises, il fut réélu député du comté, le 11 mai 1897 et le 7 décembre 1900. Toutefois, aux élections du 25 novembre 1904, il ne se représenta pas comme député et se retira à Saint-Hyacinthe.Pendant ses douze années à l’Assemblée nationale, J.A. Chicoyne fut toujours très respecté. On le surnommait Le sage de la Législature. Gaston Deschênes, dans sa biographie pour le Dictionnaire biographique du Canada, dit : C’était un homme cultivé, respecté pour ses opinions, « l’un des cerveaux les plus solidement organisés qu’ait produit la province », selon Omer Héroux. Homme de principes, conservateur d’esprit, allié à des royalistes français de la vieille école, il a néanmoins consacré sa vie à l’étude et à la recherche de solutions aux problèmes socio-économiques de ses compatriotes. Le rôle qu’il a joué dans la promotion de la mutualité et du coopératisme au tournant du siècle devrait lui mériter de figurer parmi les pionniers du mouvement coopératif québécois.En effet, J.A. Chicoyne fut le premier député à faire adopter un projet de loi concernant les sociétés coopératives. Au cours de son deuxième mandat, il s’intéresse particulièrement à la mutualité. Il s’inquiète de l’influence grandissante des sociétés de secours mutuels américaines et soutient l’idée d’une fédération des sociétés québécoises. De la mutualité, il passe au coopératisme. En 1900, son projet de loi concernant les caisses rurales « meurt au Feuilleton ». En 1901, il présente un nouveau projet de plus large portée qui aurait permis de former tout genre de coopératives, mais il ne peut le faire adopter avant la fin de la session. En 1902, il revient à la charge avec une solution de compromis. Son nouveau projet de loi permettra aux agriculteurs de fonder des coopératives de toutes sortes : c’est la Loi concernant les syndicats agricoles qui ouvre la voie à la Loi concernant les syndicats coopératifs d’Alphonse Desjardins en 1906.À la fin de sa dernière session au parlement, en juin 1904, J.A. Chicoyne, maintenant âgé de 60 ans, se sentait très fatigué et voulut aller se reposer. Il quitta alors définitivement la politique active. N’ayant plus à résider dans le comté de Wolfe, il quitta Marbleton et déménagea à La Providence, près de Saint-Hyacinthe. Sa fille Émélie, maintenant âgée de 29 ans, qui ne s’était jamais mariée et qui restait toujours avec ses parents, les suivit. Le temps de s’installer, de renouer les contacts avec la parenté et les amis, d’écrire quelques articles pour le journal Le Courrier de Saint-Hyacinthe et les journaux de Montréal, J.A. Chicoyne, en février 1905, fut atteint d’une crise d’apoplexie qui le laissa partiellement paralysé et presque complètement sourd et muet.C’est grâce à l’aide de sa femme Caroline et de sa fille Émélie qu’il put continuer à écrire les articles qu’il envoyait régulièrement aux journaux. Plusieurs de ses articles furent signés du pseudonyme IGNOTUS. Son dernier texte paraît dans La Patrie de Montréal du 17 septembre 1910.Comme bien d’autres gens de son époque, et comme il se produit souvent encore aujourd’hui, J.A. Chicoyne, après 35 ans de labeur et un repos bien mérité, n’a pu jouir paisiblement de sa retraite. Il fut constamment emprisonné par sa maladie.Le 30 septembre 1910, âgé de 66 ans, il décéda chez lui, à La Providence. Le 3 octobre, il fut inhumé au cimetière Notre-Dame, rue Girouard à Saint-Hyacinthe. À l’époque, un très large monument funéraire indiquait l’endroit de la sépulture de J.A. Chicoyne. Aujourd’hui, on ne retrouve qu’une très simple pierre tombale, sur laquelle est écrit « CHICOYNE – BENOÎT ». BENOÎT, pour Yvette Benoît, laquelle fut la fille adoptive d’Émélie Chicoyne, la fille de Jérôme-Adolphe. La femme de J.A. Chicoyne, Caroline Perrault, décéda le 27 décembre 1915, à l’âge de 67 ans et fut inhumée au même cimetière. Sa fille Émélie et madame Yvette Benoît furent, elles aussi, inhumées au même endroit.
