# LPAI Backend Op Definition Supplement

## Argmax

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 |

## Argmin

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 |

## Batchnorm

### Datatypes

| Configuration | in[0] | in[1] | in[2] | out[0] |
| --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## BatchToSpace

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Buffer

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Cast

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ChannelShuffle

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Concat

### Datatypes

| Configuration | in[0..m] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Conv2d

### Datatypes

| Configuration | in[0] | in[1] | in[2] | out[0] |
| --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | in[1] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Convert

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 |

## DepthToSpace

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## DepthWiseConv2d

### Datatypes

| Configuration | in[0] | in[1] | in[2] | out[0] |
| --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | in[1] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Dequantize

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 |

## ElementWiseAdd

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ElementWiseDivide

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ElementWiseExp

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ElementWiseLog

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ElementWiseMaximum

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ElementWiseMinimum

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ElementWiseMultiply

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ElementWisePower

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ElementWiseSquareRoot

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ElementWiseSubtract

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## FullyConnected

### Datatypes

| Configuration | in[0] | in[1] | in[2] | out[0] |
| --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | in[1] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Gather

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## Gelu

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## Gru

### Datatypes

| Configuration | in[0] | in[10] | in[11] | in[12] | in[13] | in[14] | in[1] | in[2] | in[3] | in[4] | in[5] | in[6] | in[7] | in[8] | in[9] | out[0] | out[1] |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## HardSwish

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## LayerNorm

### Datatypes

| Configuration | in[0] | in[1] | in[2] | out[0] |
| --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## LogSoftmax

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## Lstm

### Datatypes

| Configuration | in[0] | in[10] | in[11] | in[16] | in[17] | in[1] | in[24] | in[2] | in[3] | in[4] | in[5] | in[6] | in[7] | in[8] | in[9] | out[0] | out[1] | out[2] |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_BOOL\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## MatMul

### Datatypes

| Configuration | in[0] | in[1] | in[2] | out[0] |
| --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | in[1] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Pad

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## PoolAvg2d

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## PoolMax2d

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Prelu

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ReduceMax

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## ReduceMean

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## ReduceMin

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## ReduceProd

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## ReduceSum

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Relu

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ReluMinMax

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## Reshape

### Datatypes

| Configuration | in[0] | in[1] | out[0] |
| --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Resize

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ResizeBilinear

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## ResizeNearestNeighbor

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## RmsNorm

### Datatypes

| Configuration | in[0] | in[1] | in[2] | out[0] |
| --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## Sigmoid

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## Softmax

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## SpaceToBatch

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## SpaceToDepth

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Split

### Datatypes

| Configuration | in[0] | out[0..m] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0..m] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## StridedSlice

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## Tanh

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

## Transpose

### Datatypes

| Configuration | in[0] | out[0] |
| --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | out[0] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br><li><p>Math Invariant: True</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

## TransposeConv2d

### Datatypes

| Configuration | in[0] | in[1] | in[2] | out[0] |
| --- | --- | --- | --- | --- |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_SFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_8 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_SFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_8 |
| INT16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_UFIXED\_POINT\_16 | QNN\_DATATYPE\_FLOAT\_32 | QNN\_DATATYPE\_UFIXED\_POINT\_16 |

### Quantization

| Configuration | in[1] |
| --- | --- |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT8 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_8</p></li><br><li><p>Encoding: BW_AXIS_SCALE_OFFSET</p></li><br><li><p>Bitwidth: 4</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_SFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |
| INT16 | <ul class="simple"><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: SCALE_OFFSET</p></li><br></ul><br></dd><br></dl><br></li><br><li><dl class="simple"><br><dt>Quantization Parameters Config:</dt><dd><ul><br><li><p>Datatype: QNN_DATATYPE_UFIXED_POINT_16</p></li><br><li><p>Encoding: AXIS_SCALE_OFFSET</p></li><br><li><p>Axis: 3</p></li><br></ul><br></dd><br></dl><br></li><br></ul> |

Last Published: Oct 10, 2025

[Previous Topic
TransposeConv2d](https://docs.qualcomm.com/bundle/publicresource/80-63442-50/topics/HtaOpDefSupplement.md) [Next Topic
API](https://docs.qualcomm.com/bundle/publicresource/80-63442-50/topics/api.md)