xref: /llvm-project/llvm/test/Transforms/LoopVectorize/gcc-examples.ll (revision 3f7c4f36bab1f9d8755218d1239ae3acd820ef0c)
1; RUN: opt < %s  -loop-vectorize -force-vector-width=4 -dce -instcombine -licm -S | FileCheck %s
2
3target datalayout = "e-p:64:64:64-i1:8:8-i8:8:8-i16:16:16-i32:32:32-i64:64:64-f32:32:32-f64:64:64-v64:64:64-v128:128:128-a0:0:64-s0:64:64-f80:128:128-n8:16:32:64-S128"
4target triple = "x86_64-apple-macosx10.8.0"
5
6@b = common global [2048 x i32] zeroinitializer, align 16
7@c = common global [2048 x i32] zeroinitializer, align 16
8@a = common global [2048 x i32] zeroinitializer, align 16
9@G = common global [32 x [1024 x i32]] zeroinitializer, align 16
10@ub = common global [1024 x i32] zeroinitializer, align 16
11@uc = common global [1024 x i32] zeroinitializer, align 16
12@d = common global [2048 x i32] zeroinitializer, align 16
13@fa = common global [1024 x float] zeroinitializer, align 16
14@fb = common global [1024 x float] zeroinitializer, align 16
15@ic = common global [1024 x i32] zeroinitializer, align 16
16@da = common global [1024 x float] zeroinitializer, align 16
17@db = common global [1024 x float] zeroinitializer, align 16
18@dc = common global [1024 x float] zeroinitializer, align 16
19@dd = common global [1024 x float] zeroinitializer, align 16
20@dj = common global [1024 x i32] zeroinitializer, align 16
21
22;CHECK: @example1
23;CHECK: load <4 x i32>
24;CHECK: add nsw <4 x i32>
25;CHECK: store <4 x i32>
26;CHECK: ret void
27define void @example1() nounwind uwtable ssp {
28  br label %1
29
30; <label>:1                                       ; preds = %1, %0
31  %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
32  %2 = getelementptr inbounds [2048 x i32]* @b, i64 0, i64 %indvars.iv
33  %3 = load i32* %2, align 4
34  %4 = getelementptr inbounds [2048 x i32]* @c, i64 0, i64 %indvars.iv
35  %5 = load i32* %4, align 4
36  %6 = add nsw i32 %5, %3
37  %7 = getelementptr inbounds [2048 x i32]* @a, i64 0, i64 %indvars.iv
38  store i32 %6, i32* %7, align 4
39  %indvars.iv.next = add i64 %indvars.iv, 1
40  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
41  %exitcond = icmp eq i32 %lftr.wideiv, 256
42  br i1 %exitcond, label %8, label %1
43
44; <label>:8                                       ; preds = %1
45  ret void
46}
47
48;CHECK: @example2
49;CHECK: store <4 x i32>
50;CHECK: ret void
51define void @example2(i32 %n, i32 %x) nounwind uwtable ssp {
52  %1 = icmp sgt i32 %n, 0
53  br i1 %1, label %.lr.ph5, label %.preheader
54
55..preheader_crit_edge:                            ; preds = %.lr.ph5
56  %phitmp = sext i32 %n to i64
57  br label %.preheader
58
59.preheader:                                       ; preds = %..preheader_crit_edge, %0
60  %i.0.lcssa = phi i64 [ %phitmp, %..preheader_crit_edge ], [ 0, %0 ]
61  %2 = icmp eq i32 %n, 0
62  br i1 %2, label %._crit_edge, label %.lr.ph
63
64.lr.ph5:                                          ; preds = %0, %.lr.ph5
65  %indvars.iv6 = phi i64 [ %indvars.iv.next7, %.lr.ph5 ], [ 0, %0 ]
66  %3 = getelementptr inbounds [2048 x i32]* @b, i64 0, i64 %indvars.iv6
67  store i32 %x, i32* %3, align 4
68  %indvars.iv.next7 = add i64 %indvars.iv6, 1
69  %lftr.wideiv = trunc i64 %indvars.iv.next7 to i32
70  %exitcond = icmp eq i32 %lftr.wideiv, %n
71  br i1 %exitcond, label %..preheader_crit_edge, label %.lr.ph5
72
73.lr.ph:                                           ; preds = %.preheader, %.lr.ph
74  %indvars.iv = phi i64 [ %indvars.iv.next, %.lr.ph ], [ %i.0.lcssa, %.preheader ]
75  %.02 = phi i32 [ %4, %.lr.ph ], [ %n, %.preheader ]
76  %4 = add nsw i32 %.02, -1
77  %5 = getelementptr inbounds [2048 x i32]* @b, i64 0, i64 %indvars.iv
78  %6 = load i32* %5, align 4
79  %7 = getelementptr inbounds [2048 x i32]* @c, i64 0, i64 %indvars.iv
80  %8 = load i32* %7, align 4
81  %9 = and i32 %8, %6
82  %10 = getelementptr inbounds [2048 x i32]* @a, i64 0, i64 %indvars.iv
83  store i32 %9, i32* %10, align 4
84  %indvars.iv.next = add i64 %indvars.iv, 1
85  %11 = icmp eq i32 %4, 0
86  br i1 %11, label %._crit_edge, label %.lr.ph
87
88._crit_edge:                                      ; preds = %.lr.ph, %.preheader
89  ret void
90}
91
92;CHECK: @example3
93;CHECK: <4 x i32>
94;CHECK: ret void
95define void @example3(i32 %n, i32* noalias nocapture %p, i32* noalias nocapture %q) nounwind uwtable ssp {
96  %1 = icmp eq i32 %n, 0
97  br i1 %1, label %._crit_edge, label %.lr.ph
98
99.lr.ph:                                           ; preds = %0, %.lr.ph
100  %.05 = phi i32 [ %2, %.lr.ph ], [ %n, %0 ]
101  %.014 = phi i32* [ %5, %.lr.ph ], [ %p, %0 ]
102  %.023 = phi i32* [ %3, %.lr.ph ], [ %q, %0 ]
103  %2 = add nsw i32 %.05, -1
104  %3 = getelementptr inbounds i32* %.023, i64 1
105  %4 = load i32* %.023, align 16
106  %5 = getelementptr inbounds i32* %.014, i64 1
107  store i32 %4, i32* %.014, align 16
108  %6 = icmp eq i32 %2, 0
109  br i1 %6, label %._crit_edge, label %.lr.ph
110
111._crit_edge:                                      ; preds = %.lr.ph, %0
112  ret void
113}
114
115;CHECK: @example4
116;CHECK: load <4 x i32>
117;CHECK: ret void
118define void @example4(i32 %n, i32* noalias nocapture %p, i32* noalias nocapture %q) nounwind uwtable ssp {
119  %1 = add nsw i32 %n, -1
120  %2 = icmp eq i32 %n, 0
121  br i1 %2, label %.preheader4, label %.lr.ph10
122
123.preheader4:                                      ; preds = %0
124  %3 = icmp sgt i32 %1, 0
125  br i1 %3, label %.lr.ph6, label %._crit_edge
126
127.lr.ph10:                                         ; preds = %0, %.lr.ph10
128  %4 = phi i32 [ %9, %.lr.ph10 ], [ %1, %0 ]
129  %.018 = phi i32* [ %8, %.lr.ph10 ], [ %p, %0 ]
130  %.027 = phi i32* [ %5, %.lr.ph10 ], [ %q, %0 ]
131  %5 = getelementptr inbounds i32* %.027, i64 1
132  %6 = load i32* %.027, align 16
133  %7 = add nsw i32 %6, 5
134  %8 = getelementptr inbounds i32* %.018, i64 1
135  store i32 %7, i32* %.018, align 16
136  %9 = add nsw i32 %4, -1
137  %10 = icmp eq i32 %4, 0
138  br i1 %10, label %._crit_edge, label %.lr.ph10
139
140.preheader:                                       ; preds = %.lr.ph6
141  br i1 %3, label %.lr.ph, label %._crit_edge
142
143.lr.ph6:                                          ; preds = %.preheader4, %.lr.ph6
144  %indvars.iv11 = phi i64 [ %indvars.iv.next12, %.lr.ph6 ], [ 0, %.preheader4 ]
145  %indvars.iv.next12 = add i64 %indvars.iv11, 1
146  %11 = getelementptr inbounds [2048 x i32]* @b, i64 0, i64 %indvars.iv.next12
147  %12 = load i32* %11, align 4
148  %13 = add nsw i64 %indvars.iv11, 3
149  %14 = getelementptr inbounds [2048 x i32]* @c, i64 0, i64 %13
150  %15 = load i32* %14, align 4
151  %16 = add nsw i32 %15, %12
152  %17 = getelementptr inbounds [2048 x i32]* @a, i64 0, i64 %indvars.iv11
153  store i32 %16, i32* %17, align 4
154  %lftr.wideiv13 = trunc i64 %indvars.iv.next12 to i32
155  %exitcond14 = icmp eq i32 %lftr.wideiv13, %1
156  br i1 %exitcond14, label %.preheader, label %.lr.ph6
157
158.lr.ph:                                           ; preds = %.preheader, %.lr.ph
159  %indvars.iv = phi i64 [ %indvars.iv.next, %.lr.ph ], [ 0, %.preheader ]
160  %18 = getelementptr inbounds [2048 x i32]* @a, i64 0, i64 %indvars.iv
161  %19 = load i32* %18, align 4
162  %20 = icmp sgt i32 %19, 4
163  %21 = select i1 %20, i32 4, i32 0
164  %22 = getelementptr inbounds [2048 x i32]* @b, i64 0, i64 %indvars.iv
165  store i32 %21, i32* %22, align 4
166  %indvars.iv.next = add i64 %indvars.iv, 1
167  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
168  %exitcond = icmp eq i32 %lftr.wideiv, %1
169  br i1 %exitcond, label %._crit_edge, label %.lr.ph
170
171._crit_edge:                                      ; preds = %.lr.ph10, %.preheader4, %.lr.ph, %.preheader
172  ret void
173}
174
175;CHECK: @example8
176;CHECK: store <4 x i32>
177;CHECK: ret void
178define void @example8(i32 %x) nounwind uwtable ssp {
179  br label %.preheader
180
181.preheader:                                       ; preds = %3, %0
182  %indvars.iv3 = phi i64 [ 0, %0 ], [ %indvars.iv.next4, %3 ]
183  br label %1
184
185; <label>:1                                       ; preds = %1, %.preheader
186  %indvars.iv = phi i64 [ 0, %.preheader ], [ %indvars.iv.next, %1 ]
187  %2 = getelementptr inbounds [32 x [1024 x i32]]* @G, i64 0, i64 %indvars.iv3, i64 %indvars.iv
188  store i32 %x, i32* %2, align 4
189  %indvars.iv.next = add i64 %indvars.iv, 1
190  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
191  %exitcond = icmp eq i32 %lftr.wideiv, 1024
192  br i1 %exitcond, label %3, label %1
193
194; <label>:3                                       ; preds = %1
195  %indvars.iv.next4 = add i64 %indvars.iv3, 1
196  %lftr.wideiv5 = trunc i64 %indvars.iv.next4 to i32
197  %exitcond6 = icmp eq i32 %lftr.wideiv5, 32
198  br i1 %exitcond6, label %4, label %.preheader
199
200; <label>:4                                       ; preds = %3
201  ret void
202}
203
204;CHECK: @example9
205;CHECK: phi <4 x i32>
206;CHECK: ret i32
207define i32 @example9() nounwind uwtable readonly ssp {
208  br label %1
209
210; <label>:1                                       ; preds = %1, %0
211  %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
212  %diff.01 = phi i32 [ 0, %0 ], [ %7, %1 ]
213  %2 = getelementptr inbounds [1024 x i32]* @ub, i64 0, i64 %indvars.iv
214  %3 = load i32* %2, align 4
215  %4 = getelementptr inbounds [1024 x i32]* @uc, i64 0, i64 %indvars.iv
216  %5 = load i32* %4, align 4
217  %6 = add i32 %3, %diff.01
218  %7 = sub i32 %6, %5
219  %indvars.iv.next = add i64 %indvars.iv, 1
220  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
221  %exitcond = icmp eq i32 %lftr.wideiv, 1024
222  br i1 %exitcond, label %8, label %1
223
224; <label>:8                                       ; preds = %1
225  ret i32 %7
226}
227
228;CHECK: @example10a
229;CHECK: load <4 x i32>
230;CHECK: add nsw <4 x i32>
231;CHECK: load <4 x i16>
232;CHECK: add <4 x i16>
233;CHECK: store <4 x i16>
234;CHECK: ret void
235define void @example10a(i16* noalias nocapture %sa, i16* noalias nocapture %sb, i16* noalias nocapture %sc, i32* noalias nocapture %ia, i32* noalias nocapture %ib, i32* noalias nocapture %ic) nounwind uwtable ssp {
236  br label %1
237
238; <label>:1                                       ; preds = %1, %0
239  %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
240  %2 = getelementptr inbounds i32* %ib, i64 %indvars.iv
241  %3 = load i32* %2, align 4
242  %4 = getelementptr inbounds i32* %ic, i64 %indvars.iv
243  %5 = load i32* %4, align 4
244  %6 = add nsw i32 %5, %3
245  %7 = getelementptr inbounds i32* %ia, i64 %indvars.iv
246  store i32 %6, i32* %7, align 4
247  %8 = getelementptr inbounds i16* %sb, i64 %indvars.iv
248  %9 = load i16* %8, align 2
249  %10 = getelementptr inbounds i16* %sc, i64 %indvars.iv
250  %11 = load i16* %10, align 2
251  %12 = add i16 %11, %9
252  %13 = getelementptr inbounds i16* %sa, i64 %indvars.iv
253  store i16 %12, i16* %13, align 2
254  %indvars.iv.next = add i64 %indvars.iv, 1
255  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
256  %exitcond = icmp eq i32 %lftr.wideiv, 1024
257  br i1 %exitcond, label %14, label %1
258
259; <label>:14                                      ; preds = %1
260  ret void
261}
262
263;CHECK: @example10b
264;CHECK: load <4 x i16>
265;CHECK: sext <4 x i16>
266;CHECK: store <4 x i32>
267;CHECK: ret void
268define void @example10b(i16* noalias nocapture %sa, i16* noalias nocapture %sb, i16* noalias nocapture %sc, i32* noalias nocapture %ia, i32* noalias nocapture %ib, i32* noalias nocapture %ic) nounwind uwtable ssp {
269  br label %1
270
271; <label>:1                                       ; preds = %1, %0
272  %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
273  %2 = getelementptr inbounds i16* %sb, i64 %indvars.iv
274  %3 = load i16* %2, align 2
275  %4 = sext i16 %3 to i32
276  %5 = getelementptr inbounds i32* %ia, i64 %indvars.iv
277  store i32 %4, i32* %5, align 4
278  %indvars.iv.next = add i64 %indvars.iv, 1
279  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
280  %exitcond = icmp eq i32 %lftr.wideiv, 1024
281  br i1 %exitcond, label %6, label %1
282
283; <label>:6                                       ; preds = %1
284  ret void
285}
286
287;CHECK: @example11
288;CHECK: load i32
289;CHECK: load i32
290;CHECK: load i32
291;CHECK: load i32
292;CHECK: insertelement
293;CHECK: insertelement
294;CHECK: insertelement
295;CHECK: insertelement
296;CHECK: ret void
297define void @example11() nounwind uwtable ssp {
298  br label %1
299
300; <label>:1                                       ; preds = %1, %0
301  %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
302  %2 = shl nsw i64 %indvars.iv, 1
303  %3 = or i64 %2, 1
304  %4 = getelementptr inbounds [2048 x i32]* @b, i64 0, i64 %3
305  %5 = load i32* %4, align 4
306  %6 = getelementptr inbounds [2048 x i32]* @c, i64 0, i64 %3
307  %7 = load i32* %6, align 4
308  %8 = mul nsw i32 %7, %5
309  %9 = getelementptr inbounds [2048 x i32]* @b, i64 0, i64 %2
310  %10 = load i32* %9, align 8
311  %11 = getelementptr inbounds [2048 x i32]* @c, i64 0, i64 %2
312  %12 = load i32* %11, align 8
313  %13 = mul nsw i32 %12, %10
314  %14 = sub nsw i32 %8, %13
315  %15 = getelementptr inbounds [2048 x i32]* @a, i64 0, i64 %indvars.iv
316  store i32 %14, i32* %15, align 4
317  %16 = mul nsw i32 %7, %10
318  %17 = mul nsw i32 %12, %5
319  %18 = add nsw i32 %17, %16
320  %19 = getelementptr inbounds [2048 x i32]* @d, i64 0, i64 %indvars.iv
321  store i32 %18, i32* %19, align 4
322  %indvars.iv.next = add i64 %indvars.iv, 1
323  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
324  %exitcond = icmp eq i32 %lftr.wideiv, 512
325  br i1 %exitcond, label %20, label %1
326
327; <label>:20                                      ; preds = %1
328  ret void
329}
330
331;CHECK: @example12
332;CHECK: trunc i64
333;CHECK: store <4 x i32>
334;CHECK: ret void
335define void @example12() nounwind uwtable ssp {
336  br label %1
337
338; <label>:1                                       ; preds = %1, %0
339  %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
340  %2 = getelementptr inbounds [2048 x i32]* @a, i64 0, i64 %indvars.iv
341  %3 = trunc i64 %indvars.iv to i32
342  store i32 %3, i32* %2, align 4
343  %indvars.iv.next = add i64 %indvars.iv, 1
344  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
345  %exitcond = icmp eq i32 %lftr.wideiv, 1024
346  br i1 %exitcond, label %4, label %1
347
348; <label>:4                                       ; preds = %1
349  ret void
350}
351
352; Can't vectorize because of reductions.
353;CHECK: @example13
354;CHECK-NOT: <4 x i32>
355;CHECK: ret void
356define void @example13(i32** nocapture %A, i32** nocapture %B, i32* nocapture %out) nounwind uwtable ssp {
357  br label %.preheader
358
359.preheader:                                       ; preds = %14, %0
360  %indvars.iv4 = phi i64 [ 0, %0 ], [ %indvars.iv.next5, %14 ]
361  %1 = getelementptr inbounds i32** %A, i64 %indvars.iv4
362  %2 = load i32** %1, align 8
363  %3 = getelementptr inbounds i32** %B, i64 %indvars.iv4
364  %4 = load i32** %3, align 8
365  br label %5
366
367; <label>:5                                       ; preds = %.preheader, %5
368  %indvars.iv = phi i64 [ 0, %.preheader ], [ %indvars.iv.next, %5 ]
369  %diff.02 = phi i32 [ 0, %.preheader ], [ %11, %5 ]
370  %6 = getelementptr inbounds i32* %2, i64 %indvars.iv
371  %7 = load i32* %6, align 4
372  %8 = getelementptr inbounds i32* %4, i64 %indvars.iv
373  %9 = load i32* %8, align 4
374  %10 = add i32 %7, %diff.02
375  %11 = sub i32 %10, %9
376  %indvars.iv.next = add i64 %indvars.iv, 8
377  %12 = trunc i64 %indvars.iv.next to i32
378  %13 = icmp slt i32 %12, 1024
379  br i1 %13, label %5, label %14
380
381; <label>:14                                      ; preds = %5
382  %15 = getelementptr inbounds i32* %out, i64 %indvars.iv4
383  store i32 %11, i32* %15, align 4
384  %indvars.iv.next5 = add i64 %indvars.iv4, 1
385  %lftr.wideiv = trunc i64 %indvars.iv.next5 to i32
386  %exitcond = icmp eq i32 %lftr.wideiv, 32
387  br i1 %exitcond, label %16, label %.preheader
388
389; <label>:16                                      ; preds = %14
390  ret void
391}
392
393; Can vectorize.
394;CHECK: @example14
395;CHECK: <4 x i32>
396;CHECK: ret void
397define void @example14(i32** nocapture %in, i32** nocapture %coeff, i32* nocapture %out) nounwind uwtable ssp {
398.preheader3:
399  br label %.preheader
400
401.preheader:                                       ; preds = %11, %.preheader3
402  %indvars.iv7 = phi i64 [ 0, %.preheader3 ], [ %indvars.iv.next8, %11 ]
403  %sum.05 = phi i32 [ 0, %.preheader3 ], [ %10, %11 ]
404  br label %0
405
406; <label>:0                                       ; preds = %0, %.preheader
407  %indvars.iv = phi i64 [ 0, %.preheader ], [ %indvars.iv.next, %0 ]
408  %sum.12 = phi i32 [ %sum.05, %.preheader ], [ %10, %0 ]
409  %1 = getelementptr inbounds i32** %in, i64 %indvars.iv
410  %2 = load i32** %1, align 8
411  %3 = getelementptr inbounds i32* %2, i64 %indvars.iv7
412  %4 = load i32* %3, align 4
413  %5 = getelementptr inbounds i32** %coeff, i64 %indvars.iv
414  %6 = load i32** %5, align 8
415  %7 = getelementptr inbounds i32* %6, i64 %indvars.iv7
416  %8 = load i32* %7, align 4
417  %9 = mul nsw i32 %8, %4
418  %10 = add nsw i32 %9, %sum.12
419  %indvars.iv.next = add i64 %indvars.iv, 1
420  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
421  %exitcond = icmp eq i32 %lftr.wideiv, 1024
422  br i1 %exitcond, label %11, label %0
423
424; <label>:11                                      ; preds = %0
425  %indvars.iv.next8 = add i64 %indvars.iv7, 1
426  %lftr.wideiv9 = trunc i64 %indvars.iv.next8 to i32
427  %exitcond10 = icmp eq i32 %lftr.wideiv9, 32
428  br i1 %exitcond10, label %.preheader3.1, label %.preheader
429
430.preheader3.1:                                    ; preds = %11
431  store i32 %10, i32* %out, align 4
432  br label %.preheader.1
433
434.preheader.1:                                     ; preds = %24, %.preheader3.1
435  %indvars.iv7.1 = phi i64 [ 0, %.preheader3.1 ], [ %indvars.iv.next8.1, %24 ]
436  %sum.05.1 = phi i32 [ 0, %.preheader3.1 ], [ %23, %24 ]
437  br label %12
438
439; <label>:12                                      ; preds = %12, %.preheader.1
440  %indvars.iv.1 = phi i64 [ 0, %.preheader.1 ], [ %13, %12 ]
441  %sum.12.1 = phi i32 [ %sum.05.1, %.preheader.1 ], [ %23, %12 ]
442  %13 = add nsw i64 %indvars.iv.1, 1
443  %14 = getelementptr inbounds i32** %in, i64 %13
444  %15 = load i32** %14, align 8
445  %16 = getelementptr inbounds i32* %15, i64 %indvars.iv7.1
446  %17 = load i32* %16, align 4
447  %18 = getelementptr inbounds i32** %coeff, i64 %indvars.iv.1
448  %19 = load i32** %18, align 8
449  %20 = getelementptr inbounds i32* %19, i64 %indvars.iv7.1
450  %21 = load i32* %20, align 4
451  %22 = mul nsw i32 %21, %17
452  %23 = add nsw i32 %22, %sum.12.1
453  %lftr.wideiv.1 = trunc i64 %13 to i32
454  %exitcond.1 = icmp eq i32 %lftr.wideiv.1, 1024
455  br i1 %exitcond.1, label %24, label %12
456
457; <label>:24                                      ; preds = %12
458  %indvars.iv.next8.1 = add i64 %indvars.iv7.1, 1
459  %lftr.wideiv9.1 = trunc i64 %indvars.iv.next8.1 to i32
460  %exitcond10.1 = icmp eq i32 %lftr.wideiv9.1, 32
461  br i1 %exitcond10.1, label %.preheader3.2, label %.preheader.1
462
463.preheader3.2:                                    ; preds = %24
464  %25 = getelementptr inbounds i32* %out, i64 1
465  store i32 %23, i32* %25, align 4
466  br label %.preheader.2
467
468.preheader.2:                                     ; preds = %38, %.preheader3.2
469  %indvars.iv7.2 = phi i64 [ 0, %.preheader3.2 ], [ %indvars.iv.next8.2, %38 ]
470  %sum.05.2 = phi i32 [ 0, %.preheader3.2 ], [ %37, %38 ]
471  br label %26
472
473; <label>:26                                      ; preds = %26, %.preheader.2
474  %indvars.iv.2 = phi i64 [ 0, %.preheader.2 ], [ %indvars.iv.next.2, %26 ]
475  %sum.12.2 = phi i32 [ %sum.05.2, %.preheader.2 ], [ %37, %26 ]
476  %27 = add nsw i64 %indvars.iv.2, 2
477  %28 = getelementptr inbounds i32** %in, i64 %27
478  %29 = load i32** %28, align 8
479  %30 = getelementptr inbounds i32* %29, i64 %indvars.iv7.2
480  %31 = load i32* %30, align 4
481  %32 = getelementptr inbounds i32** %coeff, i64 %indvars.iv.2
482  %33 = load i32** %32, align 8
483  %34 = getelementptr inbounds i32* %33, i64 %indvars.iv7.2
484  %35 = load i32* %34, align 4
485  %36 = mul nsw i32 %35, %31
486  %37 = add nsw i32 %36, %sum.12.2
487  %indvars.iv.next.2 = add i64 %indvars.iv.2, 1
488  %lftr.wideiv.2 = trunc i64 %indvars.iv.next.2 to i32
489  %exitcond.2 = icmp eq i32 %lftr.wideiv.2, 1024
490  br i1 %exitcond.2, label %38, label %26
491
492; <label>:38                                      ; preds = %26
493  %indvars.iv.next8.2 = add i64 %indvars.iv7.2, 1
494  %lftr.wideiv9.2 = trunc i64 %indvars.iv.next8.2 to i32
495  %exitcond10.2 = icmp eq i32 %lftr.wideiv9.2, 32
496  br i1 %exitcond10.2, label %.preheader3.3, label %.preheader.2
497
498.preheader3.3:                                    ; preds = %38
499  %39 = getelementptr inbounds i32* %out, i64 2
500  store i32 %37, i32* %39, align 4
501  br label %.preheader.3
502
503.preheader.3:                                     ; preds = %52, %.preheader3.3
504  %indvars.iv7.3 = phi i64 [ 0, %.preheader3.3 ], [ %indvars.iv.next8.3, %52 ]
505  %sum.05.3 = phi i32 [ 0, %.preheader3.3 ], [ %51, %52 ]
506  br label %40
507
508; <label>:40                                      ; preds = %40, %.preheader.3
509  %indvars.iv.3 = phi i64 [ 0, %.preheader.3 ], [ %indvars.iv.next.3, %40 ]
510  %sum.12.3 = phi i32 [ %sum.05.3, %.preheader.3 ], [ %51, %40 ]
511  %41 = add nsw i64 %indvars.iv.3, 3
512  %42 = getelementptr inbounds i32** %in, i64 %41
513  %43 = load i32** %42, align 8
514  %44 = getelementptr inbounds i32* %43, i64 %indvars.iv7.3
515  %45 = load i32* %44, align 4
516  %46 = getelementptr inbounds i32** %coeff, i64 %indvars.iv.3
517  %47 = load i32** %46, align 8
518  %48 = getelementptr inbounds i32* %47, i64 %indvars.iv7.3
519  %49 = load i32* %48, align 4
520  %50 = mul nsw i32 %49, %45
521  %51 = add nsw i32 %50, %sum.12.3
522  %indvars.iv.next.3 = add i64 %indvars.iv.3, 1
523  %lftr.wideiv.3 = trunc i64 %indvars.iv.next.3 to i32
524  %exitcond.3 = icmp eq i32 %lftr.wideiv.3, 1024
525  br i1 %exitcond.3, label %52, label %40
526
527; <label>:52                                      ; preds = %40
528  %indvars.iv.next8.3 = add i64 %indvars.iv7.3, 1
529  %lftr.wideiv9.3 = trunc i64 %indvars.iv.next8.3 to i32
530  %exitcond10.3 = icmp eq i32 %lftr.wideiv9.3, 32
531  br i1 %exitcond10.3, label %53, label %.preheader.3
532
533; <label>:53                                      ; preds = %52
534  %54 = getelementptr inbounds i32* %out, i64 3
535  store i32 %51, i32* %54, align 4
536  ret void
537}
538
539;CHECK: @example21
540;CHECK: load <4 x i32>
541;CHECK: shufflevector {{.*}} <i32 3, i32 2, i32 1, i32 0>
542;CHECK: ret i32
543define i32 @example21(i32* nocapture %b, i32 %n) nounwind uwtable readonly ssp {
544  %1 = icmp sgt i32 %n, 0
545  br i1 %1, label %.lr.ph, label %._crit_edge
546
547.lr.ph:                                           ; preds = %0
548  %2 = sext i32 %n to i64
549  br label %3
550
551; <label>:3                                       ; preds = %.lr.ph, %3
552  %indvars.iv = phi i64 [ %2, %.lr.ph ], [ %indvars.iv.next, %3 ]
553  %a.02 = phi i32 [ 0, %.lr.ph ], [ %6, %3 ]
554  %indvars.iv.next = add i64 %indvars.iv, -1
555  %4 = getelementptr inbounds i32* %b, i64 %indvars.iv.next
556  %5 = load i32* %4, align 4
557  %6 = add nsw i32 %5, %a.02
558  %7 = trunc i64 %indvars.iv.next to i32
559  %8 = icmp sgt i32 %7, 0
560  br i1 %8, label %3, label %._crit_edge
561
562._crit_edge:                                      ; preds = %3, %0
563  %a.0.lcssa = phi i32 [ 0, %0 ], [ %6, %3 ]
564  ret i32 %a.0.lcssa
565}
566
567;CHECK: @example23
568;CHECK: <4 x i32>
569;CHECK: ret void
570define void @example23(i16* nocapture %src, i32* nocapture %dst) nounwind uwtable ssp {
571  br label %1
572
573; <label>:1                                       ; preds = %1, %0
574  %.04 = phi i16* [ %src, %0 ], [ %2, %1 ]
575  %.013 = phi i32* [ %dst, %0 ], [ %6, %1 ]
576  %i.02 = phi i32 [ 0, %0 ], [ %7, %1 ]
577  %2 = getelementptr inbounds i16* %.04, i64 1
578  %3 = load i16* %.04, align 2
579  %4 = zext i16 %3 to i32
580  %5 = shl nuw nsw i32 %4, 7
581  %6 = getelementptr inbounds i32* %.013, i64 1
582  store i32 %5, i32* %.013, align 4
583  %7 = add nsw i32 %i.02, 1
584  %exitcond = icmp eq i32 %7, 256
585  br i1 %exitcond, label %8, label %1
586
587; <label>:8                                       ; preds = %1
588  ret void
589}
590
591;CHECK: @example24
592;CHECK: shufflevector <4 x i16>
593;CHECK: ret void
594define void @example24(i16 signext %x, i16 signext %y) nounwind uwtable ssp {
595  br label %1
596
597; <label>:1                                       ; preds = %1, %0
598  %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
599  %2 = getelementptr inbounds [1024 x float]* @fa, i64 0, i64 %indvars.iv
600  %3 = load float* %2, align 4
601  %4 = getelementptr inbounds [1024 x float]* @fb, i64 0, i64 %indvars.iv
602  %5 = load float* %4, align 4
603  %6 = fcmp olt float %3, %5
604  %x.y = select i1 %6, i16 %x, i16 %y
605  %7 = sext i16 %x.y to i32
606  %8 = getelementptr inbounds [1024 x i32]* @ic, i64 0, i64 %indvars.iv
607  store i32 %7, i32* %8, align 4
608  %indvars.iv.next = add i64 %indvars.iv, 1
609  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
610  %exitcond = icmp eq i32 %lftr.wideiv, 1024
611  br i1 %exitcond, label %9, label %1
612
613; <label>:9                                       ; preds = %1
614  ret void
615}
616
617;CHECK: @example25
618;CHECK: and <4 x i1>
619;CHECK: zext <4 x i1>
620;CHECK: ret void
621define void @example25() nounwind uwtable ssp {
622  br label %1
623
624; <label>:1                                       ; preds = %1, %0
625  %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]
626  %2 = getelementptr inbounds [1024 x float]* @da, i64 0, i64 %indvars.iv
627  %3 = load float* %2, align 4
628  %4 = getelementptr inbounds [1024 x float]* @db, i64 0, i64 %indvars.iv
629  %5 = load float* %4, align 4
630  %6 = fcmp olt float %3, %5
631  %7 = getelementptr inbounds [1024 x float]* @dc, i64 0, i64 %indvars.iv
632  %8 = load float* %7, align 4
633  %9 = getelementptr inbounds [1024 x float]* @dd, i64 0, i64 %indvars.iv
634  %10 = load float* %9, align 4
635  %11 = fcmp olt float %8, %10
636  %12 = and i1 %6, %11
637  %13 = zext i1 %12 to i32
638  %14 = getelementptr inbounds [1024 x i32]* @dj, i64 0, i64 %indvars.iv
639  store i32 %13, i32* %14, align 4
640  %indvars.iv.next = add i64 %indvars.iv, 1
641  %lftr.wideiv = trunc i64 %indvars.iv.next to i32
642  %exitcond = icmp eq i32 %lftr.wideiv, 1024
643  br i1 %exitcond, label %15, label %1
644
645; <label>:15                                      ; preds = %1
646  ret void
647}
648
649