Lines Matching defs:ContainerVT
6041 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
6042 EVT WhileVT = ContainerVT.changeElementType(MVT::i1);
6046 SDValue MaskAsInt = DAG.getNode(ISD::SIGN_EXTEND, dl, ContainerVT, Mask);
6256 EVT ContainerVT = getContainerForFixedLengthVector(DAG, PromotedVT);
6259 MemVT = ContainerVT.changeVectorElementType(MemVT.getVectorElementType());
6260 Index = convertToScalableVector(DAG, ContainerVT, Index);
6262 PassThru = PassThru->isUndef() ? DAG.getUNDEF(ContainerVT)
6263 : DAG.getConstant(0, DL, ContainerVT);
6268 DAG.getMaskedGather(DAG.getVTList(ContainerVT, MVT::Other), MemVT, DL,
6347 EVT ContainerVT = getContainerForFixedLengthVector(DAG, PromotedVT);
6350 MemVT = ContainerVT.changeVectorElementType(MemVT.getVectorElementType());
6351 Index = convertToScalableVector(DAG, ContainerVT, Index);
6353 StoreVal = convertToScalableVector(DAG, ContainerVT, StoreVal);
9961 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
9963 In1 = convertToScalableVector(DAG, ContainerVT, In1);
9964 In2 = convertToScalableVector(DAG, ContainerVT, In2);
9966 SDValue Res = DAG.getNode(ISD::FCOPYSIGN, DL, ContainerVT, In1, In2);
13948 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
13949 SDValue Start = DAG.getConstant(SeqInfo->first, DL, ContainerVT);
13950 SDValue Steps = DAG.getStepVector(DL, ContainerVT, SeqInfo->second);
13951 SDValue Seq = DAG.getNode(ISD::ADD, DL, ContainerVT, Start, Steps);
21691 EVT ContainerVT = VT;
21692 if (ContainerVT.isInteger())
21693 ContainerVT = getSVEContainerType(ContainerVT);
21695 SDVTList VTs = DAG.getVTList(ContainerVT, MVT::Other);
21704 if (ContainerVT.isInteger() && (VT != ContainerVT))
27232 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
27233 EVT LoadVT = ContainerVT;
27239 LoadVT = ContainerVT.changeTypeToInteger();
27250 EVT ExtendVT = ContainerVT.changeVectorElementType(
27254 Result = DAG.getNode(AArch64ISD::FP_EXTEND_MERGE_PASSTHRU, DL, ContainerVT,
27255 Pg, Result, DAG.getUNDEF(ContainerVT));
27257 Result = DAG.getNode(ISD::BITCAST, DL, ContainerVT, Result);
27269 EVT ContainerVT = getContainerForFixedLengthVector(DAG, InVT);
27276 auto Op1 = convertToScalableVector(DAG, ContainerVT, Mask);
27277 auto Op2 = DAG.getConstant(0, DL, ContainerVT);
27290 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
27306 PassThru = DAG.getUNDEF(ContainerVT);
27309 if (ContainerVT.isInteger())
27310 PassThru = DAG.getConstant(0, DL, ContainerVT);
27312 PassThru = DAG.getConstantFP(0, DL, ContainerVT);
27318 ContainerVT, DL, Load->getChain(), Load->getBasePtr(), Load->getOffset(),
27325 convertToScalableVector(DAG, ContainerVT, Load->getPassThru());
27326 Result = DAG.getSelect(DL, ContainerVT, Mask, Result, OldPassThru);
27341 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
27345 auto NewValue = convertToScalableVector(DAG, ContainerVT, Store->getValue());
27348 EVT TruncVT = ContainerVT.changeVectorElementType(
27355 getSVESafeBitCast(ContainerVT.changeTypeToInteger(), NewValue, DAG);
27359 getSVESafeBitCast(ContainerVT.changeTypeToInteger(), NewValue, DAG);
27374 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
27376 auto NewValue = convertToScalableVector(DAG, ContainerVT, Store->getValue());
27397 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
27398 SDValue Op1 = convertToScalableVector(DAG, ContainerVT, Op.getOperand(0));
27403 DAG.getNode(AArch64ISD::SRAD_MERGE_OP1, dl, ContainerVT, Pg, Op1, Op2);
27405 Res = DAG.getNode(ISD::SUB, dl, ContainerVT,
27406 DAG.getConstant(0, dl, ContainerVT), Res);
27458 EVT ContainerVT = getContainerForFixedLengthVector(DAG, Val.getValueType());
27459 Val = convertToScalableVector(DAG, ContainerVT, Val);
27465 switch (ContainerVT.getSimpleVT().SimpleTy) {
27494 EVT ContainerVT = getContainerForFixedLengthVector(DAG, Val.getValueType());
27495 Val = convertToScalableVector(DAG, ContainerVT, Val);
27498 switch (ContainerVT.getSimpleVT().SimpleTy) {
27530 EVT ContainerVT = getContainerForFixedLengthVector(DAG, InVT);
27531 SDValue Op0 = convertToScalableVector(DAG, ContainerVT, Op->getOperand(0));
27543 EVT ContainerVT = getContainerForFixedLengthVector(DAG, InVT);
27544 SDValue Op0 = convertToScalableVector(DAG, ContainerVT, Op->getOperand(0));
27546 auto ScalableRes = DAG.getNode(ISD::INSERT_VECTOR_ELT, DL, ContainerVT, Op0,
27564 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
27576 EVT NewVTArg = ContainerVT.changeVectorElementType(VTArg);
27583 Operands.push_back(convertToScalableVector(DAG, ContainerVT, V));
27587 Operands.push_back(DAG.getUNDEF(ContainerVT));
27589 auto ScalableRes = DAG.getNode(NewOp, DL, ContainerVT, Operands);
27617 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
27634 Ops.push_back(convertToScalableVector(DAG, ContainerVT, V));
27637 auto ScalableRes = DAG.getNode(Op.getOpcode(), SDLoc(Op), ContainerVT, Ops);
27649 EVT ContainerVT = SrcVT;
27651 ContainerVT = getContainerForFixedLengthVector(DAG, SrcVT);
27652 VecOp = convertToScalableVector(DAG, ContainerVT, VecOp);
27659 AccOp = DAG.getNode(ISD::INSERT_VECTOR_ELT, DL, ContainerVT,
27660 DAG.getUNDEF(ContainerVT), AccOp, Zero);
27663 SDValue Rdx = DAG.getNode(AArch64ISD::FADDA_PRED, DL, ContainerVT,
27722 EVT ContainerVT = getContainerForFixedLengthVector(DAG, SrcVT);
27723 VecOp = convertToScalableVector(DAG, ContainerVT, VecOp);
27752 EVT ContainerVT = getContainerForFixedLengthVector(DAG, InVT);
27753 SDValue Op1 = convertToScalableVector(DAG, ContainerVT, Op->getOperand(1));
27754 SDValue Op2 = convertToScalableVector(DAG, ContainerVT, Op->getOperand(2));
27764 auto ScalableRes = DAG.getNode(ISD::VSELECT, DL, ContainerVT,
27774 EVT ContainerVT = getContainerForFixedLengthVector(DAG, InVT);
27781 auto Op1 = convertToScalableVector(DAG, ContainerVT, Op.getOperand(0));
27782 auto Op2 = convertToScalableVector(DAG, ContainerVT, Op.getOperand(1));
27789 EVT PromoteVT = ContainerVT.changeTypeToInteger();
27832 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
27835 SrcOp1 = convertToScalableVector(DAG, ContainerVT, SrcOp1);
27836 SrcOp2 = convertToScalableVector(DAG, ContainerVT, SrcOp2);
27838 Op = DAG.getNode(AArch64ISD::SPLICE, DL, ContainerVT, Pg, SrcOp1, SrcOp2);
27853 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
27854 EVT ExtendVT = ContainerVT.changeVectorElementType(
27860 Val = convertToScalableVector(DAG, ContainerVT.changeTypeToInteger(), Val);
27862 Val = DAG.getNode(AArch64ISD::FP_EXTEND_MERGE_PASSTHRU, DL, ContainerVT,
27863 Pg, Val, DAG.getUNDEF(ContainerVT));
28067 EVT ContainerVT, SelectionDAG &DAG) {
28147 DAG.getNode(ISD::INTRINSIC_WO_CHAIN, DL, ContainerVT,
28169 DAG.getNode(ISD::INTRINSIC_WO_CHAIN, DL, ContainerVT,
28189 EVT ContainerVT = getContainerForFixedLengthVector(DAG, VT);
28190 Op1 = convertToScalableVector(DAG, ContainerVT, Op1);
28191 Op2 = convertToScalableVector(DAG, ContainerVT, Op2);
28204 Op = DAG.getNode(ISD::SPLAT_VECTOR, DL, ContainerVT, SplatEl);
28218 Op = DAG.getNode(AArch64ISD::INSR, DL, ContainerVT, Op2, Scalar);
28237 Op = DAG.getNode(ISD::BITCAST, DL, ContainerVT, Op);
28250 Op = DAG.getNode(ISD::BITCAST, DL, ContainerVT, Op);
28258 DAG, VT, DAG.getNode(AArch64ISD::ZIP1, DL, ContainerVT, Op1, Op2));
28263 DAG, VT, DAG.getNode(Opc, DL, ContainerVT, Op1, Op2));
28268 DAG, VT, DAG.getNode(AArch64ISD::ZIP1, DL, ContainerVT, Op1, Op1));
28273 DAG, VT, DAG.getNode(Opc, DL, ContainerVT, Op1, Op1));
28299 Op = DAG.getNode(ISD::VECTOR_REVERSE, DL, ContainerVT, Op1);
28306 DAG, VT, DAG.getNode(AArch64ISD::ZIP2, DL, ContainerVT, Op1, Op2));
28311 DAG, VT, DAG.getNode(Opc, DL, ContainerVT, Op1, Op2));
28316 DAG, VT, DAG.getNode(AArch64ISD::ZIP2, DL, ContainerVT, Op1, Op1));
28321 DAG, VT, DAG.getNode(Opc, DL, ContainerVT, Op1, Op1));
28329 return GenerateFixedLengthSVETBL(Op, Op1, Op2, ShuffleMask, VT, ContainerVT,