xref: /netbsd-src/sys/external/bsd/drm2/dist/drm/nouveau/nvkm/engine/gr/nouveau_nvkm_engine_gr_ctxgk104.c (revision 41ec02673d281bbb3d38e6c78504ce6e30c228c1)
1 /*	$NetBSD: nouveau_nvkm_engine_gr_ctxgk104.c,v 1.3 2021/12/18 23:45:36 riastradh Exp $	*/
2 
3 /*
4  * Copyright 2013 Red Hat Inc.
5  *
6  * Permission is hereby granted, free of charge, to any person obtaining a
7  * copy of this software and associated documentation files (the "Software"),
8  * to deal in the Software without restriction, including without limitation
9  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
10  * and/or sell copies of the Software, and to permit persons to whom the
11  * Software is furnished to do so, subject to the following conditions:
12  *
13  * The above copyright notice and this permission notice shall be included in
14  * all copies or substantial portions of the Software.
15  *
16  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
17  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
18  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
19  * THE COPYRIGHT HOLDER(S) OR AUTHOR(S) BE LIABLE FOR ANY CLAIM, DAMAGES OR
20  * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
21  * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR
22  * OTHER DEALINGS IN THE SOFTWARE.
23  *
24  * Authors: Ben Skeggs <bskeggs@redhat.com>
25  */
26 #include <sys/cdefs.h>
27 __KERNEL_RCSID(0, "$NetBSD: nouveau_nvkm_engine_gr_ctxgk104.c,v 1.3 2021/12/18 23:45:36 riastradh Exp $");
28 
29 #include "ctxgf100.h"
30 
31 #include <subdev/fb.h>
32 #include <subdev/mc.h>
33 
34 /*******************************************************************************
35  * PGRAPH context register lists
36  ******************************************************************************/
37 
38 static const struct gf100_gr_init
39 gk104_grctx_init_icmd_0[] = {
40 	{ 0x001000,   1, 0x01, 0x00000004 },
41 	{ 0x000039,   3, 0x01, 0x00000000 },
42 	{ 0x0000a9,   1, 0x01, 0x0000ffff },
43 	{ 0x000038,   1, 0x01, 0x0fac6881 },
44 	{ 0x00003d,   1, 0x01, 0x00000001 },
45 	{ 0x0000e8,   8, 0x01, 0x00000400 },
46 	{ 0x000078,   8, 0x01, 0x00000300 },
47 	{ 0x000050,   1, 0x01, 0x00000011 },
48 	{ 0x000058,   8, 0x01, 0x00000008 },
49 	{ 0x000208,   8, 0x01, 0x00000001 },
50 	{ 0x000081,   1, 0x01, 0x00000001 },
51 	{ 0x000085,   1, 0x01, 0x00000004 },
52 	{ 0x000088,   1, 0x01, 0x00000400 },
53 	{ 0x000090,   1, 0x01, 0x00000300 },
54 	{ 0x000098,   1, 0x01, 0x00001001 },
55 	{ 0x0000e3,   1, 0x01, 0x00000001 },
56 	{ 0x0000da,   1, 0x01, 0x00000001 },
57 	{ 0x0000f8,   1, 0x01, 0x00000003 },
58 	{ 0x0000fa,   1, 0x01, 0x00000001 },
59 	{ 0x00009f,   4, 0x01, 0x0000ffff },
60 	{ 0x0000b1,   1, 0x01, 0x00000001 },
61 	{ 0x0000ad,   1, 0x01, 0x0000013e },
62 	{ 0x0000e1,   1, 0x01, 0x00000010 },
63 	{ 0x000290,  16, 0x01, 0x00000000 },
64 	{ 0x0003b0,  16, 0x01, 0x00000000 },
65 	{ 0x0002a0,  16, 0x01, 0x00000000 },
66 	{ 0x000420,  16, 0x01, 0x00000000 },
67 	{ 0x0002b0,  16, 0x01, 0x00000000 },
68 	{ 0x000430,  16, 0x01, 0x00000000 },
69 	{ 0x0002c0,  16, 0x01, 0x00000000 },
70 	{ 0x0004d0,  16, 0x01, 0x00000000 },
71 	{ 0x000720,  16, 0x01, 0x00000000 },
72 	{ 0x0008c0,  16, 0x01, 0x00000000 },
73 	{ 0x000890,  16, 0x01, 0x00000000 },
74 	{ 0x0008e0,  16, 0x01, 0x00000000 },
75 	{ 0x0008a0,  16, 0x01, 0x00000000 },
76 	{ 0x0008f0,  16, 0x01, 0x00000000 },
77 	{ 0x00094c,   1, 0x01, 0x000000ff },
78 	{ 0x00094d,   1, 0x01, 0xffffffff },
79 	{ 0x00094e,   1, 0x01, 0x00000002 },
80 	{ 0x0002ec,   1, 0x01, 0x00000001 },
81 	{ 0x000303,   1, 0x01, 0x00000001 },
82 	{ 0x0002e6,   1, 0x01, 0x00000001 },
83 	{ 0x000466,   1, 0x01, 0x00000052 },
84 	{ 0x000301,   1, 0x01, 0x3f800000 },
85 	{ 0x000304,   1, 0x01, 0x30201000 },
86 	{ 0x000305,   1, 0x01, 0x70605040 },
87 	{ 0x000306,   1, 0x01, 0xb8a89888 },
88 	{ 0x000307,   1, 0x01, 0xf8e8d8c8 },
89 	{ 0x00030a,   1, 0x01, 0x00ffff00 },
90 	{ 0x00030b,   1, 0x01, 0x0000001a },
91 	{ 0x00030c,   1, 0x01, 0x00000001 },
92 	{ 0x000318,   1, 0x01, 0x00000001 },
93 	{ 0x000340,   1, 0x01, 0x00000000 },
94 	{ 0x000375,   1, 0x01, 0x00000001 },
95 	{ 0x00037d,   1, 0x01, 0x00000006 },
96 	{ 0x0003a0,   1, 0x01, 0x00000002 },
97 	{ 0x0003aa,   1, 0x01, 0x00000001 },
98 	{ 0x0003a9,   1, 0x01, 0x00000001 },
99 	{ 0x000380,   1, 0x01, 0x00000001 },
100 	{ 0x000383,   1, 0x01, 0x00000011 },
101 	{ 0x000360,   1, 0x01, 0x00000040 },
102 	{ 0x000366,   2, 0x01, 0x00000000 },
103 	{ 0x000368,   1, 0x01, 0x00000fff },
104 	{ 0x000370,   2, 0x01, 0x00000000 },
105 	{ 0x000372,   1, 0x01, 0x000fffff },
106 	{ 0x00037a,   1, 0x01, 0x00000012 },
107 	{ 0x000619,   1, 0x01, 0x00000003 },
108 	{ 0x000811,   1, 0x01, 0x00000003 },
109 	{ 0x000812,   1, 0x01, 0x00000004 },
110 	{ 0x000813,   1, 0x01, 0x00000006 },
111 	{ 0x000814,   1, 0x01, 0x00000008 },
112 	{ 0x000815,   1, 0x01, 0x0000000b },
113 	{ 0x000800,   6, 0x01, 0x00000001 },
114 	{ 0x000632,   1, 0x01, 0x00000001 },
115 	{ 0x000633,   1, 0x01, 0x00000002 },
116 	{ 0x000634,   1, 0x01, 0x00000003 },
117 	{ 0x000635,   1, 0x01, 0x00000004 },
118 	{ 0x000654,   1, 0x01, 0x3f800000 },
119 	{ 0x000657,   1, 0x01, 0x3f800000 },
120 	{ 0x000655,   2, 0x01, 0x3f800000 },
121 	{ 0x0006cd,   1, 0x01, 0x3f800000 },
122 	{ 0x0007f5,   1, 0x01, 0x3f800000 },
123 	{ 0x0007dc,   1, 0x01, 0x39291909 },
124 	{ 0x0007dd,   1, 0x01, 0x79695949 },
125 	{ 0x0007de,   1, 0x01, 0xb9a99989 },
126 	{ 0x0007df,   1, 0x01, 0xf9e9d9c9 },
127 	{ 0x0007e8,   1, 0x01, 0x00003210 },
128 	{ 0x0007e9,   1, 0x01, 0x00007654 },
129 	{ 0x0007ea,   1, 0x01, 0x00000098 },
130 	{ 0x0007ec,   1, 0x01, 0x39291909 },
131 	{ 0x0007ed,   1, 0x01, 0x79695949 },
132 	{ 0x0007ee,   1, 0x01, 0xb9a99989 },
133 	{ 0x0007ef,   1, 0x01, 0xf9e9d9c9 },
134 	{ 0x0007f0,   1, 0x01, 0x00003210 },
135 	{ 0x0007f1,   1, 0x01, 0x00007654 },
136 	{ 0x0007f2,   1, 0x01, 0x00000098 },
137 	{ 0x0005a5,   1, 0x01, 0x00000001 },
138 	{ 0x000980, 128, 0x01, 0x00000000 },
139 	{ 0x000468,   1, 0x01, 0x00000004 },
140 	{ 0x00046c,   1, 0x01, 0x00000001 },
141 	{ 0x000470,  96, 0x01, 0x00000000 },
142 	{ 0x000510,  16, 0x01, 0x3f800000 },
143 	{ 0x000520,   1, 0x01, 0x000002b6 },
144 	{ 0x000529,   1, 0x01, 0x00000001 },
145 	{ 0x000530,  16, 0x01, 0xffff0000 },
146 	{ 0x000585,   1, 0x01, 0x0000003f },
147 	{ 0x000576,   1, 0x01, 0x00000003 },
148 	{ 0x00057b,   1, 0x01, 0x00000059 },
149 	{ 0x000586,   1, 0x01, 0x00000040 },
150 	{ 0x000582,   2, 0x01, 0x00000080 },
151 	{ 0x0005c2,   1, 0x01, 0x00000001 },
152 	{ 0x000638,   2, 0x01, 0x00000001 },
153 	{ 0x00063a,   1, 0x01, 0x00000002 },
154 	{ 0x00063b,   2, 0x01, 0x00000001 },
155 	{ 0x00063d,   1, 0x01, 0x00000002 },
156 	{ 0x00063e,   1, 0x01, 0x00000001 },
157 	{ 0x0008b8,   8, 0x01, 0x00000001 },
158 	{ 0x000900,   8, 0x01, 0x00000001 },
159 	{ 0x000908,   8, 0x01, 0x00000002 },
160 	{ 0x000910,  16, 0x01, 0x00000001 },
161 	{ 0x000920,   8, 0x01, 0x00000002 },
162 	{ 0x000928,   8, 0x01, 0x00000001 },
163 	{ 0x000648,   9, 0x01, 0x00000001 },
164 	{ 0x000658,   1, 0x01, 0x0000000f },
165 	{ 0x0007ff,   1, 0x01, 0x0000000a },
166 	{ 0x00066a,   1, 0x01, 0x40000000 },
167 	{ 0x00066b,   1, 0x01, 0x10000000 },
168 	{ 0x00066c,   2, 0x01, 0xffff0000 },
169 	{ 0x0007af,   2, 0x01, 0x00000008 },
170 	{ 0x0007f6,   1, 0x01, 0x00000001 },
171 	{ 0x0006b2,   1, 0x01, 0x00000055 },
172 	{ 0x0007ad,   1, 0x01, 0x00000003 },
173 	{ 0x000937,   1, 0x01, 0x00000001 },
174 	{ 0x000971,   1, 0x01, 0x00000008 },
175 	{ 0x000972,   1, 0x01, 0x00000040 },
176 	{ 0x000973,   1, 0x01, 0x0000012c },
177 	{ 0x00097c,   1, 0x01, 0x00000040 },
178 	{ 0x000979,   1, 0x01, 0x00000003 },
179 	{ 0x000975,   1, 0x01, 0x00000020 },
180 	{ 0x000976,   1, 0x01, 0x00000001 },
181 	{ 0x000977,   1, 0x01, 0x00000020 },
182 	{ 0x000978,   1, 0x01, 0x00000001 },
183 	{ 0x000957,   1, 0x01, 0x00000003 },
184 	{ 0x00095e,   1, 0x01, 0x20164010 },
185 	{ 0x00095f,   1, 0x01, 0x00000020 },
186 	{ 0x00097d,   1, 0x01, 0x00000020 },
187 	{ 0x000683,   1, 0x01, 0x00000006 },
188 	{ 0x000685,   1, 0x01, 0x003fffff },
189 	{ 0x000687,   1, 0x01, 0x003fffff },
190 	{ 0x0006a0,   1, 0x01, 0x00000005 },
191 	{ 0x000840,   1, 0x01, 0x00400008 },
192 	{ 0x000841,   1, 0x01, 0x08000080 },
193 	{ 0x000842,   1, 0x01, 0x00400008 },
194 	{ 0x000843,   1, 0x01, 0x08000080 },
195 	{ 0x0006aa,   1, 0x01, 0x00000001 },
196 	{ 0x0006ab,   1, 0x01, 0x00000002 },
197 	{ 0x0006ac,   1, 0x01, 0x00000080 },
198 	{ 0x0006ad,   2, 0x01, 0x00000100 },
199 	{ 0x0006b1,   1, 0x01, 0x00000011 },
200 	{ 0x0006bb,   1, 0x01, 0x000000cf },
201 	{ 0x0006ce,   1, 0x01, 0x2a712488 },
202 	{ 0x000739,   1, 0x01, 0x4085c000 },
203 	{ 0x00073a,   1, 0x01, 0x00000080 },
204 	{ 0x000786,   1, 0x01, 0x80000100 },
205 	{ 0x00073c,   1, 0x01, 0x00010100 },
206 	{ 0x00073d,   1, 0x01, 0x02800000 },
207 	{ 0x000787,   1, 0x01, 0x000000cf },
208 	{ 0x00078c,   1, 0x01, 0x00000008 },
209 	{ 0x000792,   1, 0x01, 0x00000001 },
210 	{ 0x000794,   3, 0x01, 0x00000001 },
211 	{ 0x000797,   1, 0x01, 0x000000cf },
212 	{ 0x000836,   1, 0x01, 0x00000001 },
213 	{ 0x00079a,   1, 0x01, 0x00000002 },
214 	{ 0x000833,   1, 0x01, 0x04444480 },
215 	{ 0x0007a1,   1, 0x01, 0x00000001 },
216 	{ 0x0007a3,   3, 0x01, 0x00000001 },
217 	{ 0x000831,   1, 0x01, 0x00000004 },
218 	{ 0x000b07,   1, 0x01, 0x00000002 },
219 	{ 0x000b08,   2, 0x01, 0x00000100 },
220 	{ 0x000b0a,   1, 0x01, 0x00000001 },
221 	{ 0x000a04,   1, 0x01, 0x000000ff },
222 	{ 0x000a0b,   1, 0x01, 0x00000040 },
223 	{ 0x00097f,   1, 0x01, 0x00000100 },
224 	{ 0x000a02,   1, 0x01, 0x00000001 },
225 	{ 0x000809,   1, 0x01, 0x00000007 },
226 	{ 0x00c221,   1, 0x01, 0x00000040 },
227 	{ 0x00c1b0,   8, 0x01, 0x0000000f },
228 	{ 0x00c1b8,   1, 0x01, 0x0fac6881 },
229 	{ 0x00c1b9,   1, 0x01, 0x00fac688 },
230 	{ 0x00c401,   1, 0x01, 0x00000001 },
231 	{ 0x00c402,   1, 0x01, 0x00010001 },
232 	{ 0x00c403,   2, 0x01, 0x00000001 },
233 	{ 0x00c40e,   1, 0x01, 0x00000020 },
234 	{ 0x00c500,   1, 0x01, 0x00000003 },
235 	{ 0x01e100,   1, 0x01, 0x00000001 },
236 	{ 0x001000,   1, 0x01, 0x00000002 },
237 	{ 0x0006aa,   1, 0x01, 0x00000001 },
238 	{ 0x0006ad,   2, 0x01, 0x00000100 },
239 	{ 0x0006b1,   1, 0x01, 0x00000011 },
240 	{ 0x00078c,   1, 0x01, 0x00000008 },
241 	{ 0x000792,   1, 0x01, 0x00000001 },
242 	{ 0x000794,   3, 0x01, 0x00000001 },
243 	{ 0x000797,   1, 0x01, 0x000000cf },
244 	{ 0x00079a,   1, 0x01, 0x00000002 },
245 	{ 0x000833,   1, 0x01, 0x04444480 },
246 	{ 0x0007a1,   1, 0x01, 0x00000001 },
247 	{ 0x0007a3,   3, 0x01, 0x00000001 },
248 	{ 0x000831,   1, 0x01, 0x00000004 },
249 	{ 0x01e100,   1, 0x01, 0x00000001 },
250 	{ 0x001000,   1, 0x01, 0x00000008 },
251 	{ 0x000039,   3, 0x01, 0x00000000 },
252 	{ 0x000380,   1, 0x01, 0x00000001 },
253 	{ 0x000366,   2, 0x01, 0x00000000 },
254 	{ 0x000368,   1, 0x01, 0x00000fff },
255 	{ 0x000370,   2, 0x01, 0x00000000 },
256 	{ 0x000372,   1, 0x01, 0x000fffff },
257 	{ 0x000813,   1, 0x01, 0x00000006 },
258 	{ 0x000814,   1, 0x01, 0x00000008 },
259 	{ 0x000957,   1, 0x01, 0x00000003 },
260 	{ 0x000b07,   1, 0x01, 0x00000002 },
261 	{ 0x000b08,   2, 0x01, 0x00000100 },
262 	{ 0x000b0a,   1, 0x01, 0x00000001 },
263 	{ 0x000a04,   1, 0x01, 0x000000ff },
264 	{ 0x00097f,   1, 0x01, 0x00000100 },
265 	{ 0x000a02,   1, 0x01, 0x00000001 },
266 	{ 0x000809,   1, 0x01, 0x00000007 },
267 	{ 0x00c221,   1, 0x01, 0x00000040 },
268 	{ 0x00c401,   1, 0x01, 0x00000001 },
269 	{ 0x00c402,   1, 0x01, 0x00010001 },
270 	{ 0x00c403,   2, 0x01, 0x00000001 },
271 	{ 0x00c40e,   1, 0x01, 0x00000020 },
272 	{ 0x00c500,   1, 0x01, 0x00000003 },
273 	{ 0x01e100,   1, 0x01, 0x00000001 },
274 	{ 0x001000,   1, 0x01, 0x00000001 },
275 	{ 0x000b07,   1, 0x01, 0x00000002 },
276 	{ 0x000b08,   2, 0x01, 0x00000100 },
277 	{ 0x000b0a,   1, 0x01, 0x00000001 },
278 	{ 0x01e100,   1, 0x01, 0x00000001 },
279 	{}
280 };
281 
282 const struct gf100_gr_pack
283 gk104_grctx_pack_icmd[] = {
284 	{ gk104_grctx_init_icmd_0 },
285 	{}
286 };
287 
288 const struct gf100_gr_init
289 gk104_grctx_init_a097_0[] = {
290 	{ 0x000800,   8, 0x40, 0x00000000 },
291 	{ 0x000804,   8, 0x40, 0x00000000 },
292 	{ 0x000808,   8, 0x40, 0x00000400 },
293 	{ 0x00080c,   8, 0x40, 0x00000300 },
294 	{ 0x000810,   1, 0x04, 0x000000cf },
295 	{ 0x000850,   7, 0x40, 0x00000000 },
296 	{ 0x000814,   8, 0x40, 0x00000040 },
297 	{ 0x000818,   8, 0x40, 0x00000001 },
298 	{ 0x00081c,   8, 0x40, 0x00000000 },
299 	{ 0x000820,   8, 0x40, 0x00000000 },
300 	{ 0x001c00,  16, 0x10, 0x00000000 },
301 	{ 0x001c04,  16, 0x10, 0x00000000 },
302 	{ 0x001c08,  16, 0x10, 0x00000000 },
303 	{ 0x001c0c,  16, 0x10, 0x00000000 },
304 	{ 0x001d00,  16, 0x10, 0x00000000 },
305 	{ 0x001d04,  16, 0x10, 0x00000000 },
306 	{ 0x001d08,  16, 0x10, 0x00000000 },
307 	{ 0x001d0c,  16, 0x10, 0x00000000 },
308 	{ 0x001f00,  16, 0x08, 0x00000000 },
309 	{ 0x001f04,  16, 0x08, 0x00000000 },
310 	{ 0x001f80,  16, 0x08, 0x00000000 },
311 	{ 0x001f84,  16, 0x08, 0x00000000 },
312 	{ 0x002000,   1, 0x04, 0x00000000 },
313 	{ 0x002040,   1, 0x04, 0x00000011 },
314 	{ 0x002080,   1, 0x04, 0x00000020 },
315 	{ 0x0020c0,   1, 0x04, 0x00000030 },
316 	{ 0x002100,   1, 0x04, 0x00000040 },
317 	{ 0x002140,   1, 0x04, 0x00000051 },
318 	{ 0x00200c,   6, 0x40, 0x00000001 },
319 	{ 0x002010,   1, 0x04, 0x00000000 },
320 	{ 0x002050,   1, 0x04, 0x00000000 },
321 	{ 0x002090,   1, 0x04, 0x00000001 },
322 	{ 0x0020d0,   1, 0x04, 0x00000002 },
323 	{ 0x002110,   1, 0x04, 0x00000003 },
324 	{ 0x002150,   1, 0x04, 0x00000004 },
325 	{ 0x000380,   4, 0x20, 0x00000000 },
326 	{ 0x000384,   4, 0x20, 0x00000000 },
327 	{ 0x000388,   4, 0x20, 0x00000000 },
328 	{ 0x00038c,   4, 0x20, 0x00000000 },
329 	{ 0x000700,   4, 0x10, 0x00000000 },
330 	{ 0x000704,   4, 0x10, 0x00000000 },
331 	{ 0x000708,   4, 0x10, 0x00000000 },
332 	{ 0x002800, 128, 0x04, 0x00000000 },
333 	{ 0x000a00,  16, 0x20, 0x00000000 },
334 	{ 0x000a04,  16, 0x20, 0x00000000 },
335 	{ 0x000a08,  16, 0x20, 0x00000000 },
336 	{ 0x000a0c,  16, 0x20, 0x00000000 },
337 	{ 0x000a10,  16, 0x20, 0x00000000 },
338 	{ 0x000a14,  16, 0x20, 0x00000000 },
339 	{ 0x000c00,  16, 0x10, 0x00000000 },
340 	{ 0x000c04,  16, 0x10, 0x00000000 },
341 	{ 0x000c08,  16, 0x10, 0x00000000 },
342 	{ 0x000c0c,  16, 0x10, 0x3f800000 },
343 	{ 0x000d00,   8, 0x08, 0xffff0000 },
344 	{ 0x000d04,   8, 0x08, 0xffff0000 },
345 	{ 0x000e00,  16, 0x10, 0x00000000 },
346 	{ 0x000e04,  16, 0x10, 0xffff0000 },
347 	{ 0x000e08,  16, 0x10, 0xffff0000 },
348 	{ 0x000d40,   4, 0x08, 0x00000000 },
349 	{ 0x000d44,   4, 0x08, 0x00000000 },
350 	{ 0x001e00,   8, 0x20, 0x00000001 },
351 	{ 0x001e04,   8, 0x20, 0x00000001 },
352 	{ 0x001e08,   8, 0x20, 0x00000002 },
353 	{ 0x001e0c,   8, 0x20, 0x00000001 },
354 	{ 0x001e10,   8, 0x20, 0x00000001 },
355 	{ 0x001e14,   8, 0x20, 0x00000002 },
356 	{ 0x001e18,   8, 0x20, 0x00000001 },
357 	{ 0x003400, 128, 0x04, 0x00000000 },
358 	{ 0x00030c,   1, 0x04, 0x00000001 },
359 	{ 0x001944,   1, 0x04, 0x00000000 },
360 	{ 0x001514,   1, 0x04, 0x00000000 },
361 	{ 0x000d68,   1, 0x04, 0x0000ffff },
362 	{ 0x00121c,   1, 0x04, 0x0fac6881 },
363 	{ 0x000fac,   1, 0x04, 0x00000001 },
364 	{ 0x001538,   1, 0x04, 0x00000001 },
365 	{ 0x000fe0,   2, 0x04, 0x00000000 },
366 	{ 0x000fe8,   1, 0x04, 0x00000014 },
367 	{ 0x000fec,   1, 0x04, 0x00000040 },
368 	{ 0x000ff0,   1, 0x04, 0x00000000 },
369 	{ 0x00179c,   1, 0x04, 0x00000000 },
370 	{ 0x001228,   1, 0x04, 0x00000400 },
371 	{ 0x00122c,   1, 0x04, 0x00000300 },
372 	{ 0x001230,   1, 0x04, 0x00010001 },
373 	{ 0x0007f8,   1, 0x04, 0x00000000 },
374 	{ 0x0015b4,   1, 0x04, 0x00000001 },
375 	{ 0x0015cc,   1, 0x04, 0x00000000 },
376 	{ 0x001534,   1, 0x04, 0x00000000 },
377 	{ 0x000fb0,   1, 0x04, 0x00000000 },
378 	{ 0x0015d0,   1, 0x04, 0x00000000 },
379 	{ 0x00153c,   1, 0x04, 0x00000000 },
380 	{ 0x0016b4,   1, 0x04, 0x00000003 },
381 	{ 0x000fbc,   4, 0x04, 0x0000ffff },
382 	{ 0x000df8,   2, 0x04, 0x00000000 },
383 	{ 0x001948,   1, 0x04, 0x00000000 },
384 	{ 0x001970,   1, 0x04, 0x00000001 },
385 	{ 0x00161c,   1, 0x04, 0x000009f0 },
386 	{ 0x000dcc,   1, 0x04, 0x00000010 },
387 	{ 0x00163c,   1, 0x04, 0x00000000 },
388 	{ 0x0015e4,   1, 0x04, 0x00000000 },
389 	{ 0x001160,  32, 0x04, 0x25e00040 },
390 	{ 0x001880,  32, 0x04, 0x00000000 },
391 	{ 0x000f84,   2, 0x04, 0x00000000 },
392 	{ 0x0017c8,   2, 0x04, 0x00000000 },
393 	{ 0x0017d0,   1, 0x04, 0x000000ff },
394 	{ 0x0017d4,   1, 0x04, 0xffffffff },
395 	{ 0x0017d8,   1, 0x04, 0x00000002 },
396 	{ 0x0017dc,   1, 0x04, 0x00000000 },
397 	{ 0x0015f4,   2, 0x04, 0x00000000 },
398 	{ 0x001434,   2, 0x04, 0x00000000 },
399 	{ 0x000d74,   1, 0x04, 0x00000000 },
400 	{ 0x000dec,   1, 0x04, 0x00000001 },
401 	{ 0x0013a4,   1, 0x04, 0x00000000 },
402 	{ 0x001318,   1, 0x04, 0x00000001 },
403 	{ 0x001644,   1, 0x04, 0x00000000 },
404 	{ 0x000748,   1, 0x04, 0x00000000 },
405 	{ 0x000de8,   1, 0x04, 0x00000000 },
406 	{ 0x001648,   1, 0x04, 0x00000000 },
407 	{ 0x0012a4,   1, 0x04, 0x00000000 },
408 	{ 0x001120,   4, 0x04, 0x00000000 },
409 	{ 0x001118,   1, 0x04, 0x00000000 },
410 	{ 0x00164c,   1, 0x04, 0x00000000 },
411 	{ 0x001658,   1, 0x04, 0x00000000 },
412 	{ 0x001910,   1, 0x04, 0x00000290 },
413 	{ 0x001518,   1, 0x04, 0x00000000 },
414 	{ 0x00165c,   1, 0x04, 0x00000001 },
415 	{ 0x001520,   1, 0x04, 0x00000000 },
416 	{ 0x001604,   1, 0x04, 0x00000000 },
417 	{ 0x001570,   1, 0x04, 0x00000000 },
418 	{ 0x0013b0,   2, 0x04, 0x3f800000 },
419 	{ 0x00020c,   1, 0x04, 0x00000000 },
420 	{ 0x001670,   1, 0x04, 0x30201000 },
421 	{ 0x001674,   1, 0x04, 0x70605040 },
422 	{ 0x001678,   1, 0x04, 0xb8a89888 },
423 	{ 0x00167c,   1, 0x04, 0xf8e8d8c8 },
424 	{ 0x00166c,   1, 0x04, 0x00000000 },
425 	{ 0x001680,   1, 0x04, 0x00ffff00 },
426 	{ 0x0012d0,   1, 0x04, 0x00000003 },
427 	{ 0x0012d4,   1, 0x04, 0x00000002 },
428 	{ 0x001684,   2, 0x04, 0x00000000 },
429 	{ 0x000dac,   2, 0x04, 0x00001b02 },
430 	{ 0x000db4,   1, 0x04, 0x00000000 },
431 	{ 0x00168c,   1, 0x04, 0x00000000 },
432 	{ 0x0015bc,   1, 0x04, 0x00000000 },
433 	{ 0x00156c,   1, 0x04, 0x00000000 },
434 	{ 0x00187c,   1, 0x04, 0x00000000 },
435 	{ 0x001110,   1, 0x04, 0x00000001 },
436 	{ 0x000dc0,   3, 0x04, 0x00000000 },
437 	{ 0x001234,   1, 0x04, 0x00000000 },
438 	{ 0x001690,   1, 0x04, 0x00000000 },
439 	{ 0x0012ac,   1, 0x04, 0x00000001 },
440 	{ 0x000790,   5, 0x04, 0x00000000 },
441 	{ 0x00077c,   1, 0x04, 0x00000000 },
442 	{ 0x001000,   1, 0x04, 0x00000010 },
443 	{ 0x0010fc,   1, 0x04, 0x00000000 },
444 	{ 0x001290,   1, 0x04, 0x00000000 },
445 	{ 0x000218,   1, 0x04, 0x00000010 },
446 	{ 0x0012d8,   1, 0x04, 0x00000000 },
447 	{ 0x0012dc,   1, 0x04, 0x00000010 },
448 	{ 0x000d94,   1, 0x04, 0x00000001 },
449 	{ 0x00155c,   2, 0x04, 0x00000000 },
450 	{ 0x001564,   1, 0x04, 0x00000fff },
451 	{ 0x001574,   2, 0x04, 0x00000000 },
452 	{ 0x00157c,   1, 0x04, 0x000fffff },
453 	{ 0x001354,   1, 0x04, 0x00000000 },
454 	{ 0x001610,   1, 0x04, 0x00000012 },
455 	{ 0x001608,   2, 0x04, 0x00000000 },
456 	{ 0x00260c,   1, 0x04, 0x00000000 },
457 	{ 0x0007ac,   1, 0x04, 0x00000000 },
458 	{ 0x00162c,   1, 0x04, 0x00000003 },
459 	{ 0x000210,   1, 0x04, 0x00000000 },
460 	{ 0x000320,   1, 0x04, 0x00000000 },
461 	{ 0x000324,   6, 0x04, 0x3f800000 },
462 	{ 0x000750,   1, 0x04, 0x00000000 },
463 	{ 0x000760,   1, 0x04, 0x39291909 },
464 	{ 0x000764,   1, 0x04, 0x79695949 },
465 	{ 0x000768,   1, 0x04, 0xb9a99989 },
466 	{ 0x00076c,   1, 0x04, 0xf9e9d9c9 },
467 	{ 0x000770,   1, 0x04, 0x30201000 },
468 	{ 0x000774,   1, 0x04, 0x70605040 },
469 	{ 0x000778,   1, 0x04, 0x00009080 },
470 	{ 0x000780,   1, 0x04, 0x39291909 },
471 	{ 0x000784,   1, 0x04, 0x79695949 },
472 	{ 0x000788,   1, 0x04, 0xb9a99989 },
473 	{ 0x00078c,   1, 0x04, 0xf9e9d9c9 },
474 	{ 0x0007d0,   1, 0x04, 0x30201000 },
475 	{ 0x0007d4,   1, 0x04, 0x70605040 },
476 	{ 0x0007d8,   1, 0x04, 0x00009080 },
477 	{ 0x00037c,   1, 0x04, 0x00000001 },
478 	{ 0x000740,   2, 0x04, 0x00000000 },
479 	{ 0x002600,   1, 0x04, 0x00000000 },
480 	{ 0x001918,   1, 0x04, 0x00000000 },
481 	{ 0x00191c,   1, 0x04, 0x00000900 },
482 	{ 0x001920,   1, 0x04, 0x00000405 },
483 	{ 0x001308,   1, 0x04, 0x00000001 },
484 	{ 0x001924,   1, 0x04, 0x00000000 },
485 	{ 0x0013ac,   1, 0x04, 0x00000000 },
486 	{ 0x00192c,   1, 0x04, 0x00000001 },
487 	{ 0x00193c,   1, 0x04, 0x00002c1c },
488 	{ 0x000d7c,   1, 0x04, 0x00000000 },
489 	{ 0x000f8c,   1, 0x04, 0x00000000 },
490 	{ 0x0002c0,   1, 0x04, 0x00000001 },
491 	{ 0x001510,   1, 0x04, 0x00000000 },
492 	{ 0x001940,   1, 0x04, 0x00000000 },
493 	{ 0x000ff4,   2, 0x04, 0x00000000 },
494 	{ 0x00194c,   2, 0x04, 0x00000000 },
495 	{ 0x001968,   1, 0x04, 0x00000000 },
496 	{ 0x001590,   1, 0x04, 0x0000003f },
497 	{ 0x0007e8,   4, 0x04, 0x00000000 },
498 	{ 0x00196c,   1, 0x04, 0x00000011 },
499 	{ 0x0002e4,   1, 0x04, 0x0000b001 },
500 	{ 0x00036c,   2, 0x04, 0x00000000 },
501 	{ 0x00197c,   1, 0x04, 0x00000000 },
502 	{ 0x000fcc,   2, 0x04, 0x00000000 },
503 	{ 0x0002d8,   1, 0x04, 0x00000040 },
504 	{ 0x001980,   1, 0x04, 0x00000080 },
505 	{ 0x001504,   1, 0x04, 0x00000080 },
506 	{ 0x001984,   1, 0x04, 0x00000000 },
507 	{ 0x000300,   1, 0x04, 0x00000001 },
508 	{ 0x0013a8,   1, 0x04, 0x00000000 },
509 	{ 0x0012ec,   1, 0x04, 0x00000000 },
510 	{ 0x001310,   1, 0x04, 0x00000000 },
511 	{ 0x001314,   1, 0x04, 0x00000001 },
512 	{ 0x001380,   1, 0x04, 0x00000000 },
513 	{ 0x001384,   4, 0x04, 0x00000001 },
514 	{ 0x001394,   1, 0x04, 0x00000000 },
515 	{ 0x00139c,   1, 0x04, 0x00000000 },
516 	{ 0x001398,   1, 0x04, 0x00000000 },
517 	{ 0x001594,   1, 0x04, 0x00000000 },
518 	{ 0x001598,   4, 0x04, 0x00000001 },
519 	{ 0x000f54,   3, 0x04, 0x00000000 },
520 	{ 0x0019bc,   1, 0x04, 0x00000000 },
521 	{ 0x000f9c,   2, 0x04, 0x00000000 },
522 	{ 0x0012cc,   1, 0x04, 0x00000000 },
523 	{ 0x0012e8,   1, 0x04, 0x00000000 },
524 	{ 0x00130c,   1, 0x04, 0x00000001 },
525 	{ 0x001360,   8, 0x04, 0x00000000 },
526 	{ 0x00133c,   2, 0x04, 0x00000001 },
527 	{ 0x001344,   1, 0x04, 0x00000002 },
528 	{ 0x001348,   2, 0x04, 0x00000001 },
529 	{ 0x001350,   1, 0x04, 0x00000002 },
530 	{ 0x001358,   1, 0x04, 0x00000001 },
531 	{ 0x0012e4,   1, 0x04, 0x00000000 },
532 	{ 0x00131c,   4, 0x04, 0x00000000 },
533 	{ 0x0019c0,   1, 0x04, 0x00000000 },
534 	{ 0x001140,   1, 0x04, 0x00000000 },
535 	{ 0x0019c4,   1, 0x04, 0x00000000 },
536 	{ 0x0019c8,   1, 0x04, 0x00001500 },
537 	{ 0x00135c,   1, 0x04, 0x00000000 },
538 	{ 0x000f90,   1, 0x04, 0x00000000 },
539 	{ 0x0019e0,   8, 0x04, 0x00000001 },
540 	{ 0x0019cc,   1, 0x04, 0x00000001 },
541 	{ 0x0015b8,   1, 0x04, 0x00000000 },
542 	{ 0x001a00,   1, 0x04, 0x00001111 },
543 	{ 0x001a04,   7, 0x04, 0x00000000 },
544 	{ 0x000d6c,   2, 0x04, 0xffff0000 },
545 	{ 0x0010f8,   1, 0x04, 0x00001010 },
546 	{ 0x000d80,   5, 0x04, 0x00000000 },
547 	{ 0x000da0,   1, 0x04, 0x00000000 },
548 	{ 0x0007a4,   2, 0x04, 0x00000000 },
549 	{ 0x001508,   1, 0x04, 0x80000000 },
550 	{ 0x00150c,   1, 0x04, 0x40000000 },
551 	{ 0x001668,   1, 0x04, 0x00000000 },
552 	{ 0x000318,   2, 0x04, 0x00000008 },
553 	{ 0x000d9c,   1, 0x04, 0x00000001 },
554 	{ 0x000374,   1, 0x04, 0x00000000 },
555 	{ 0x000378,   1, 0x04, 0x00000020 },
556 	{ 0x0007dc,   1, 0x04, 0x00000000 },
557 	{ 0x00074c,   1, 0x04, 0x00000055 },
558 	{ 0x001420,   1, 0x04, 0x00000003 },
559 	{ 0x0017bc,   2, 0x04, 0x00000000 },
560 	{ 0x0017c4,   1, 0x04, 0x00000001 },
561 	{ 0x001008,   1, 0x04, 0x00000008 },
562 	{ 0x00100c,   1, 0x04, 0x00000040 },
563 	{ 0x001010,   1, 0x04, 0x0000012c },
564 	{ 0x000d60,   1, 0x04, 0x00000040 },
565 	{ 0x00075c,   1, 0x04, 0x00000003 },
566 	{ 0x001018,   1, 0x04, 0x00000020 },
567 	{ 0x00101c,   1, 0x04, 0x00000001 },
568 	{ 0x001020,   1, 0x04, 0x00000020 },
569 	{ 0x001024,   1, 0x04, 0x00000001 },
570 	{ 0x001444,   3, 0x04, 0x00000000 },
571 	{ 0x000360,   1, 0x04, 0x20164010 },
572 	{ 0x000364,   1, 0x04, 0x00000020 },
573 	{ 0x000368,   1, 0x04, 0x00000000 },
574 	{ 0x000de4,   1, 0x04, 0x00000000 },
575 	{ 0x000204,   1, 0x04, 0x00000006 },
576 	{ 0x000208,   1, 0x04, 0x00000000 },
577 	{ 0x0002cc,   2, 0x04, 0x003fffff },
578 	{ 0x001220,   1, 0x04, 0x00000005 },
579 	{ 0x000fdc,   1, 0x04, 0x00000000 },
580 	{ 0x000f98,   1, 0x04, 0x00400008 },
581 	{ 0x001284,   1, 0x04, 0x08000080 },
582 	{ 0x001450,   1, 0x04, 0x00400008 },
583 	{ 0x001454,   1, 0x04, 0x08000080 },
584 	{ 0x000214,   1, 0x04, 0x00000000 },
585 	{}
586 };
587 
588 static const struct gf100_gr_pack
589 gk104_grctx_pack_mthd[] = {
590 	{ gk104_grctx_init_a097_0, 0xa097 },
591 	{ gf100_grctx_init_902d_0, 0x902d },
592 	{}
593 };
594 
595 static const struct gf100_gr_init
596 gk104_grctx_init_fe_0[] = {
597 	{ 0x404010,   5, 0x04, 0x00000000 },
598 	{ 0x404024,   1, 0x04, 0x0000e000 },
599 	{ 0x404028,   1, 0x04, 0x00000000 },
600 	{ 0x4040a8,   8, 0x04, 0x00000000 },
601 	{ 0x4040c8,   1, 0x04, 0xf800008f },
602 	{ 0x4040d0,   6, 0x04, 0x00000000 },
603 	{ 0x4040e8,   1, 0x04, 0x00001000 },
604 	{ 0x4040f8,   1, 0x04, 0x00000000 },
605 	{ 0x404130,   2, 0x04, 0x00000000 },
606 	{ 0x404138,   1, 0x04, 0x20000040 },
607 	{ 0x404150,   1, 0x04, 0x0000002e },
608 	{ 0x404154,   1, 0x04, 0x00000400 },
609 	{ 0x404158,   1, 0x04, 0x00000200 },
610 	{ 0x404164,   1, 0x04, 0x00000055 },
611 	{ 0x4041a0,   4, 0x04, 0x00000000 },
612 	{ 0x404200,   4, 0x04, 0x00000000 },
613 	{}
614 };
615 
616 const struct gf100_gr_init
617 gk104_grctx_init_memfmt_0[] = {
618 	{ 0x404604,   1, 0x04, 0x00000014 },
619 	{ 0x404608,   1, 0x04, 0x00000000 },
620 	{ 0x40460c,   1, 0x04, 0x00003fff },
621 	{ 0x404610,   1, 0x04, 0x00000100 },
622 	{ 0x404618,   4, 0x04, 0x00000000 },
623 	{ 0x40462c,   2, 0x04, 0x00000000 },
624 	{ 0x404640,   1, 0x04, 0x00000000 },
625 	{ 0x404654,   1, 0x04, 0x00000000 },
626 	{ 0x404660,   1, 0x04, 0x00000000 },
627 	{ 0x404678,   1, 0x04, 0x00000000 },
628 	{ 0x40467c,   1, 0x04, 0x00000002 },
629 	{ 0x404680,   8, 0x04, 0x00000000 },
630 	{ 0x4046a0,   1, 0x04, 0x007f0080 },
631 	{ 0x4046a4,   8, 0x04, 0x00000000 },
632 	{ 0x4046c8,   3, 0x04, 0x00000000 },
633 	{ 0x404700,   3, 0x04, 0x00000000 },
634 	{ 0x404718,   7, 0x04, 0x00000000 },
635 	{ 0x404734,   1, 0x04, 0x00000100 },
636 	{ 0x404738,   2, 0x04, 0x00000000 },
637 	{ 0x404744,   2, 0x04, 0x00000000 },
638 	{ 0x404754,   1, 0x04, 0x00000000 },
639 	{}
640 };
641 
642 const struct gf100_gr_init
643 gk104_grctx_init_ds_0[] = {
644 	{ 0x405800,   1, 0x04, 0x0f8000bf },
645 	{ 0x405830,   1, 0x04, 0x02180648 },
646 	{ 0x405834,   1, 0x04, 0x08000000 },
647 	{ 0x405838,   1, 0x04, 0x00000000 },
648 	{ 0x405854,   1, 0x04, 0x00000000 },
649 	{ 0x405870,   4, 0x04, 0x00000001 },
650 	{ 0x405a00,   2, 0x04, 0x00000000 },
651 	{ 0x405a18,   1, 0x04, 0x00000000 },
652 	{}
653 };
654 
655 static const struct gf100_gr_init
656 gk104_grctx_init_cwd_0[] = {
657 	{ 0x405b00,   1, 0x04, 0x00000000 },
658 	{ 0x405b10,   1, 0x04, 0x00001000 },
659 	{}
660 };
661 
662 static const struct gf100_gr_init
663 gk104_grctx_init_pd_0[] = {
664 	{ 0x406020,   1, 0x04, 0x004103c1 },
665 	{ 0x406028,   4, 0x04, 0x00000001 },
666 	{ 0x4064a8,   1, 0x04, 0x00000000 },
667 	{ 0x4064ac,   1, 0x04, 0x00003fff },
668 	{ 0x4064b4,   2, 0x04, 0x00000000 },
669 	{ 0x4064c0,   1, 0x04, 0x801a00f0 },
670 	{ 0x4064c4,   1, 0x04, 0x0192ffff },
671 	{ 0x4064c8,   1, 0x04, 0x01800600 },
672 	{ 0x4064cc,   9, 0x04, 0x00000000 },
673 	{ 0x4064fc,   1, 0x04, 0x0000022a },
674 	{}
675 };
676 
677 static const struct gf100_gr_init
678 gk104_grctx_init_sked_0[] = {
679 	{ 0x407040,   1, 0x04, 0x00000000 },
680 	{}
681 };
682 
683 const struct gf100_gr_init
684 gk104_grctx_init_scc_0[] = {
685 	{ 0x408000,   2, 0x04, 0x00000000 },
686 	{ 0x408008,   1, 0x04, 0x00000030 },
687 	{ 0x40800c,   2, 0x04, 0x00000000 },
688 	{ 0x408014,   1, 0x04, 0x00000069 },
689 	{ 0x408018,   1, 0x04, 0xe100e100 },
690 	{ 0x408064,   1, 0x04, 0x00000000 },
691 	{}
692 };
693 
694 static const struct gf100_gr_init
695 gk104_grctx_init_be_0[] = {
696 	{ 0x408800,   1, 0x04, 0x02802a3c },
697 	{ 0x408804,   1, 0x04, 0x00000040 },
698 	{ 0x408808,   1, 0x04, 0x1043e005 },
699 	{ 0x408840,   1, 0x04, 0x0000000b },
700 	{ 0x408900,   1, 0x04, 0x3080b801 },
701 	{ 0x408904,   1, 0x04, 0x62000001 },
702 	{ 0x408908,   1, 0x04, 0x00c8102f },
703 	{ 0x408980,   1, 0x04, 0x0000011d },
704 	{}
705 };
706 
707 const struct gf100_gr_pack
708 gk104_grctx_pack_hub[] = {
709 	{ gf100_grctx_init_main_0 },
710 	{ gk104_grctx_init_fe_0 },
711 	{ gf100_grctx_init_pri_0 },
712 	{ gk104_grctx_init_memfmt_0 },
713 	{ gk104_grctx_init_ds_0 },
714 	{ gk104_grctx_init_cwd_0 },
715 	{ gk104_grctx_init_pd_0 },
716 	{ gk104_grctx_init_sked_0 },
717 	{ gf100_grctx_init_rstr2d_0 },
718 	{ gk104_grctx_init_scc_0 },
719 	{ gk104_grctx_init_be_0 },
720 	{}
721 };
722 
723 static const struct gf100_gr_init
724 gk104_grctx_init_setup_0[] = {
725 	{ 0x418800,   1, 0x04, 0x7006860a },
726 	{ 0x418808,   3, 0x04, 0x00000000 },
727 	{ 0x418828,   1, 0x04, 0x00000044 },
728 	{ 0x418830,   1, 0x04, 0x10000001 },
729 	{ 0x4188d8,   1, 0x04, 0x00000008 },
730 	{ 0x4188e0,   1, 0x04, 0x01000000 },
731 	{ 0x4188e8,   5, 0x04, 0x00000000 },
732 	{ 0x4188fc,   1, 0x04, 0x20100018 },
733 	{}
734 };
735 
736 const struct gf100_gr_init
737 gk104_grctx_init_gpm_0[] = {
738 	{ 0x418c08,   1, 0x04, 0x00000001 },
739 	{ 0x418c10,   8, 0x04, 0x00000000 },
740 	{ 0x418c40,   1, 0x04, 0xffffffff },
741 	{ 0x418c6c,   1, 0x04, 0x00000001 },
742 	{ 0x418c80,   1, 0x04, 0x20200004 },
743 	{ 0x418c8c,   1, 0x04, 0x00000001 },
744 	{}
745 };
746 
747 static const struct gf100_gr_pack
748 gk104_grctx_pack_gpc_0[] = {
749 	{ gf100_grctx_init_gpc_unk_0 },
750 	{ gf119_grctx_init_prop_0 },
751 	{ gf119_grctx_init_gpc_unk_1 },
752 	{ gk104_grctx_init_setup_0 },
753 	{ gf100_grctx_init_zcull_0 },
754 	{}
755 };
756 
757 static const struct gf100_gr_pack
758 gk104_grctx_pack_gpc_1[] = {
759 	{ gf119_grctx_init_crstr_0 },
760 	{ gk104_grctx_init_gpm_0 },
761 	{ gf100_grctx_init_gcc_0 },
762 	{}
763 };
764 
765 static const struct gf100_gr_init
766 gk104_grctx_init_tex_0[] = {
767 	{ 0x419a00,   1, 0x04, 0x000000f0 },
768 	{ 0x419a04,   1, 0x04, 0x00000001 },
769 	{ 0x419a08,   1, 0x04, 0x00000021 },
770 	{ 0x419a0c,   1, 0x04, 0x00020000 },
771 	{ 0x419a10,   1, 0x04, 0x00000000 },
772 	{ 0x419a14,   1, 0x04, 0x00000200 },
773 	{ 0x419a1c,   1, 0x04, 0x0000c000 },
774 	{ 0x419a20,   1, 0x04, 0x00000800 },
775 	{ 0x419a30,   1, 0x04, 0x00000001 },
776 	{ 0x419ac4,   1, 0x04, 0x0037f440 },
777 	{}
778 };
779 
780 static const struct gf100_gr_init
781 gk104_grctx_init_mpc_0[] = {
782 	{ 0x419c00,   1, 0x04, 0x0000000a },
783 	{ 0x419c04,   1, 0x04, 0x80000006 },
784 	{ 0x419c08,   1, 0x04, 0x00000002 },
785 	{ 0x419c20,   1, 0x04, 0x00000000 },
786 	{ 0x419c24,   1, 0x04, 0x00084210 },
787 	{ 0x419c28,   1, 0x04, 0x3efbefbe },
788 	{}
789 };
790 
791 static const struct gf100_gr_init
792 gk104_grctx_init_l1c_0[] = {
793 	{ 0x419ce8,   1, 0x04, 0x00000000 },
794 	{ 0x419cf4,   1, 0x04, 0x00003203 },
795 	{}
796 };
797 
798 static const struct gf100_gr_init
799 gk104_grctx_init_sm_0[] = {
800 	{ 0x419e04,   3, 0x04, 0x00000000 },
801 	{ 0x419e10,   1, 0x04, 0x00000402 },
802 	{ 0x419e44,   1, 0x04, 0x0013eff2 },
803 	{ 0x419e48,   1, 0x04, 0x00000000 },
804 	{ 0x419e4c,   1, 0x04, 0x0000007f },
805 	{ 0x419e50,  19, 0x04, 0x00000000 },
806 	{ 0x419eac,   1, 0x04, 0x00001f8f },
807 	{ 0x419eb0,   1, 0x04, 0x00000d3f },
808 	{ 0x419ec8,   1, 0x04, 0x0001304f },
809 	{ 0x419f30,   8, 0x04, 0x00000000 },
810 	{ 0x419f58,   1, 0x04, 0x00000000 },
811 	{ 0x419f70,   1, 0x04, 0x00000000 },
812 	{ 0x419f78,   1, 0x04, 0x0000000b },
813 	{ 0x419f7c,   1, 0x04, 0x0000027c },
814 	{}
815 };
816 
817 const struct gf100_gr_pack
818 gk104_grctx_pack_tpc[] = {
819 	{ gf117_grctx_init_pe_0 },
820 	{ gk104_grctx_init_tex_0 },
821 	{ gk104_grctx_init_mpc_0 },
822 	{ gk104_grctx_init_l1c_0 },
823 	{ gk104_grctx_init_sm_0 },
824 	{}
825 };
826 
827 const struct gf100_gr_init
828 gk104_grctx_init_pes_0[] = {
829 	{ 0x41be24,   1, 0x04, 0x00000006 },
830 	{}
831 };
832 
833 static const struct gf100_gr_init
834 gk104_grctx_init_cbm_0[] = {
835 	{ 0x41bec0,   1, 0x04, 0x12180000 },
836 	{ 0x41bec4,   1, 0x04, 0x00037f7f },
837 	{ 0x41bee4,   1, 0x04, 0x06480430 },
838 	{}
839 };
840 
841 const struct gf100_gr_pack
842 gk104_grctx_pack_ppc[] = {
843 	{ gk104_grctx_init_pes_0 },
844 	{ gk104_grctx_init_cbm_0 },
845 	{ gf117_grctx_init_wwdx_0 },
846 	{}
847 };
848 
849 /*******************************************************************************
850  * PGRAPH context implementation
851  ******************************************************************************/
852 
853 void
gk104_grctx_generate_r418800(struct gf100_gr * gr)854 gk104_grctx_generate_r418800(struct gf100_gr *gr)
855 {
856 	struct nvkm_device *device = gr->base.engine.subdev.device;
857 	/*XXX: Not real sure where to apply these, there doesn't seem
858 	 *     to be any pattern to which chipsets it's done on.
859 	 *
860 	 *     Perhaps a VBIOS tweak?
861 	 */
862 	if (0) {
863 		nvkm_mask(device, 0x418800, 0x00200000, 0x00200000);
864 		nvkm_mask(device, 0x41be10, 0x00800000, 0x00800000);
865 	}
866 }
867 
868 void
gk104_grctx_generate_patch_ltc(struct gf100_grctx * info)869 gk104_grctx_generate_patch_ltc(struct gf100_grctx *info)
870 {
871 	struct nvkm_device *device = info->gr->base.engine.subdev.device;
872 	u32 data0 = nvkm_rd32(device, 0x17e91c);
873 	u32 data1 = nvkm_rd32(device, 0x17e920);
874 	/*XXX: Figure out how to modify this correctly! */
875 	mmio_wr32(info, 0x17e91c, data0);
876 	mmio_wr32(info, 0x17e920, data1);
877 }
878 
879 void
gk104_grctx_generate_bundle(struct gf100_grctx * info)880 gk104_grctx_generate_bundle(struct gf100_grctx *info)
881 {
882 	const struct gf100_grctx_func *grctx = info->gr->func->grctx;
883 	const u32 state_limit = min(grctx->bundle_min_gpm_fifo_depth,
884 				    grctx->bundle_size / 0x20);
885 	const u32 token_limit = grctx->bundle_token_limit;
886 	const int s = 8;
887 	const int b = mmio_vram(info, grctx->bundle_size, (1 << s), true);
888 	mmio_refn(info, 0x408004, 0x00000000, s, b);
889 	mmio_wr32(info, 0x408008, 0x80000000 | (grctx->bundle_size >> s));
890 	mmio_refn(info, 0x418808, 0x00000000, s, b);
891 	mmio_wr32(info, 0x41880c, 0x80000000 | (grctx->bundle_size >> s));
892 	mmio_wr32(info, 0x4064c8, (state_limit << 16) | token_limit);
893 }
894 
895 void
gk104_grctx_generate_pagepool(struct gf100_grctx * info)896 gk104_grctx_generate_pagepool(struct gf100_grctx *info)
897 {
898 	const struct gf100_grctx_func *grctx = info->gr->func->grctx;
899 	const int s = 8;
900 	const int b = mmio_vram(info, grctx->pagepool_size, (1 << s), true);
901 	mmio_refn(info, 0x40800c, 0x00000000, s, b);
902 	mmio_wr32(info, 0x408010, 0x80000000);
903 	mmio_refn(info, 0x419004, 0x00000000, s, b);
904 	mmio_wr32(info, 0x419008, 0x00000000);
905 	mmio_wr32(info, 0x4064cc, 0x80000000);
906 }
907 
908 void
gk104_grctx_generate_unkn(struct gf100_gr * gr)909 gk104_grctx_generate_unkn(struct gf100_gr *gr)
910 {
911 	struct nvkm_device *device = gr->base.engine.subdev.device;
912 	nvkm_mask(device, 0x418c6c, 0x00000001, 0x00000001);
913 	nvkm_mask(device, 0x41980c, 0x00000010, 0x00000010);
914 	nvkm_mask(device, 0x41be08, 0x00000004, 0x00000004);
915 	nvkm_mask(device, 0x4064c0, 0x80000000, 0x80000000);
916 	nvkm_mask(device, 0x405800, 0x08000000, 0x08000000);
917 	nvkm_mask(device, 0x419c00, 0x00000008, 0x00000008);
918 }
919 
920 static void
gk104_grctx_generate_r419f78(struct gf100_gr * gr)921 gk104_grctx_generate_r419f78(struct gf100_gr *gr)
922 {
923 	struct nvkm_device *device = gr->base.engine.subdev.device;
924 	nvkm_mask(device, 0x419f78, 0x00000001, 0x00000000);
925 }
926 
927 void
gk104_grctx_generate_gpc_tpc_nr(struct gf100_gr * gr)928 gk104_grctx_generate_gpc_tpc_nr(struct gf100_gr *gr)
929 {
930 	struct nvkm_device *device = gr->base.engine.subdev.device;
931 	nvkm_wr32(device, 0x405b00, (gr->tpc_total << 8) | gr->gpc_nr);
932 }
933 
934 void
gk104_grctx_generate_alpha_beta_tables(struct gf100_gr * gr)935 gk104_grctx_generate_alpha_beta_tables(struct gf100_gr *gr)
936 {
937 	struct nvkm_device *device = gr->base.engine.subdev.device;
938 	int i, j, gpc, ppc;
939 
940 	for (i = 0; i < 32; i++) {
941 		u32 atarget = max_t(u32, gr->tpc_total * i / 32, 1);
942 		u32 btarget = gr->tpc_total - atarget;
943 		bool alpha = atarget < btarget;
944 		u64 amask = 0, bmask = 0;
945 
946 		for (gpc = 0; gpc < gr->gpc_nr; gpc++) {
947 			for (ppc = 0; ppc < gr->func->ppc_nr; ppc++) {
948 				u32 ppc_tpcs = gr->ppc_tpc_nr[gpc][ppc];
949 				u32 abits, bbits, pmask;
950 
951 				if (alpha) {
952 					abits = atarget ? ppc_tpcs : 0;
953 					bbits = ppc_tpcs - abits;
954 				} else {
955 					bbits = btarget ? ppc_tpcs : 0;
956 					abits = ppc_tpcs - bbits;
957 				}
958 
959 				pmask = gr->ppc_tpc_mask[gpc][ppc];
960 				while (ppc_tpcs-- > abits)
961 					pmask &= pmask - 1;
962 				amask |= (u64)pmask << (gpc * 8);
963 
964 				pmask ^= gr->ppc_tpc_mask[gpc][ppc];
965 				bmask |= (u64)pmask << (gpc * 8);
966 
967 				atarget -= min(abits, atarget);
968 				btarget -= min(bbits, btarget);
969 				if ((abits > 0) || (bbits > 0))
970 					alpha = !alpha;
971 			}
972 		}
973 
974 		for (j = 0; j < gr->gpc_nr; j += 4, amask >>= 32, bmask >>= 32) {
975 			nvkm_wr32(device, 0x406800 + (i * 0x20) + j, amask);
976 			nvkm_wr32(device, 0x406c00 + (i * 0x20) + j, bmask);
977 		}
978 	}
979 }
980 
981 const struct gf100_grctx_func
982 gk104_grctx = {
983 	.main  = gf100_grctx_generate_main,
984 	.unkn  = gk104_grctx_generate_unkn,
985 	.hub   = gk104_grctx_pack_hub,
986 	.gpc_0 = gk104_grctx_pack_gpc_0,
987 	.gpc_1 = gk104_grctx_pack_gpc_1,
988 	.zcull = gf100_grctx_pack_zcull,
989 	.tpc   = gk104_grctx_pack_tpc,
990 	.ppc   = gk104_grctx_pack_ppc,
991 	.icmd  = gk104_grctx_pack_icmd,
992 	.mthd  = gk104_grctx_pack_mthd,
993 	.bundle = gk104_grctx_generate_bundle,
994 	.bundle_size = 0x3000,
995 	.bundle_min_gpm_fifo_depth = 0x180,
996 	.bundle_token_limit = 0x600,
997 	.pagepool = gk104_grctx_generate_pagepool,
998 	.pagepool_size = 0x8000,
999 	.attrib = gf117_grctx_generate_attrib,
1000 	.attrib_nr_max = 0x324,
1001 	.attrib_nr = 0x218,
1002 	.alpha_nr_max = 0x7ff,
1003 	.alpha_nr = 0x648,
1004 	.patch_ltc = gk104_grctx_generate_patch_ltc,
1005 	.sm_id = gf100_grctx_generate_sm_id,
1006 	.tpc_nr = gf100_grctx_generate_tpc_nr,
1007 	.rop_mapping = gf117_grctx_generate_rop_mapping,
1008 	.alpha_beta_tables = gk104_grctx_generate_alpha_beta_tables,
1009 	.dist_skip_table = gf117_grctx_generate_dist_skip_table,
1010 	.gpc_tpc_nr = gk104_grctx_generate_gpc_tpc_nr,
1011 	.r419f78 = gk104_grctx_generate_r419f78,
1012 	.r418800 = gk104_grctx_generate_r418800,
1013 };
1014