S-DSP/Gaussian Filter

From SnesLab
Jump to: navigation, search

The Gaussian Filter is driven by a 512-entry table of 12-bit unsigned values:

a plot of the Gaussian table resembles the left-hand side of the normal distribution (bell-curve)
Offset (hex) Offset (dec) Value (hex) Value (dec)
0 0 000 0
1 1 000 0
2 2 000 0
3 3 000 0
4 4 000 0
5 5 000 0
6 6 000 0
7 7 000 0
8 8 000 0
9 9 000 0
A 10 000 0
B 11 000 0
C 12 000 0
D 13 000 0
E 14 000 0
F 15 000 0
10 16 001 1
11 17 001 1
12 18 001 1
13 19 001 1
14 20 001 1
15 21 001 1
16 22 001 1
17 23 001 1
18 24 001 1
19 25 001 1
1A 26 001 1
1B 27 002 2
1C 28 002 2
1D 29 002 2
1E 30 002 2
1F 31 002 2
20 32 002 2
21 33 002 2
22 34 003 3
23 35 003 3
24 36 003 3
25 37 003 3
26 38 003 3
27 39 004 4
28 40 004 4
29 41 004 4
2A 42 004 4
2B 43 004 4
2C 44 005 5
2D 45 005 5
2E 46 005 5
2F 47 005 5
30 48 006 6
31 49 006 6
32 50 006 6
33 51 006 6
34 52 007 7
35 53 007 7
36 54 007 7
37 55 008 8
38 56 008 8
39 57 008 8
3A 58 009 9
3B 59 009 9
3C 60 009 9
3D 61 00A 10
3E 62 00A 10
3F 63 00A 10
40 64 00B 11
41 65 00B 11
42 66 00B 11
43 67 00C 12
44 68 00C 12
45 69 00D 13
46 70 00D 13
47 71 00E 14
48 72 00E 14
49 73 00F 15
4A 74 00F 15
4B 75 00F 15
4C 76 010 16
4D 77 010 16
4E 78 011 17
4F 79 011 17
50 80 012 18
51 81 013 19
52 82 013 19
53 83 014 20
54 84 014 20
55 85 015 21
56 86 015 21
57 87 016 22
58 88 017 23
59 89 017 23
5A 90 018 24
5B 91 018 24
5C 92 019 25
5D 93 01A 26
5E 94 01B 27
5F 95 01B 27
60 96 01C 28
61 97 01D 29
62 98 01D 29
63 99 01E 30
64 100 01F 31
65 101 020 32
66 102 020 32
67 103 021 33
68 104 022 34
69 105 023 35
6A 106 024 36
6B 107 024 36
6C 108 025 37
6D 109 026 38
6E 110 027 39
6F 111 028 40
70 112 029 41
71 113 02A 42
72 114 02B 43
73 115 02C 44
74 116 02D 45
75 117 02E 46
76 118 02F 47
77 119 030 48
78 120 031 49
79 121 032 50
7A 122 033 51
7B 123 034 52
7C 124 035 53
7D 125 036 54
7E 126 037 55
7F 127 038 56
80 128 03A 58
81 129 03B 59
82 130 03C 60
83 131 03D 61
84 132 03E 62
85 133 040 64
86 134 041 65
87 135 042 66
88 136 043 67
89 137 045 69
8A 138 046 70
8B 139 047 71
8C 140 049 73
8D 141 04A 74
8E 142 04C 76
8F 143 04D 77
90 144 04E 78
91 145 050 80
92 146 051 81
93 147 053 83
94 148 054 84
95 149 056 86
96 150 057 87
97 151 059 89
98 152 05A 90
99 153 05C 92
9A 154 05E 94
9B 155 05F 95
9C 156 061 97
9D 157 063 99
9E 158 064 100
9F 159 066 102
A0 160 068 104
A1 161 06A 106
A2 162 06B 107
A3 163 06D 109
A4 164 06F 111
A5 165 071 113
A6 166 073 115
A7 167 075 117
A8 168 076 118
A9 169 078 120
AA 170 07A 122
AB 171 07C 124
AC 172 07E 126
AD 173 080 128
AE 174 082 130
AF 175 084 132
B0 176 086 134
B1 177 089 137
B2 178 08B 139
B3 179 08D 141
B4 180 08F 143
B5 181 091 145
B6 182 093 147
B7 183 096 150
B8 184 098 152
B9 185 09A 154
BA 186 09C 156
BB 187 09F 159
BC 188 0A1 161
BD 189 0A3 163
BE 190 0A6 166
BF 191 0A8 168
C0 192 0AB 171
C1 193 0AD 173
C2 194 0AF 175
C3 195 0B2 178
C4 196 0B4 180
C5 197 0B7 183
C6 198 0BA 186
C7 199 0BC 188
C8 200 0BF 191
C9 201 0C1 193
CA 202 0C4 196
CB 203 0C7 199
CC 204 0C9 201
CD 205 0CC 204
CE 206 0CF 207
CF 207 0D2 210
D0 208 0D4 212
D1 209 0D7 215
D2 210 0DA 218
D3 211 0DD 221
D4 212 0E0 224
D5 213 0E3 227
D6 214 0E6 230
D7 215 0E9 233
D8 216 0EC 236
D9 217 0EF 239
DA 218 0F2 242
DB 219 0F5 245
DC 220 0F8 248
DD 221 0FB 251
DE 222 0FE 254
DF 223 101 257
E0 224 104 260
E1 225 107 263
E2 226 10B 267
E3 227 10E 270
E4 228 111 273
E5 229 114 276
E6 230 118 280
E7 231 11B 283
E8 232 11E 286
E9 233 122 290
EA 234 125 293
EB 235 129 297
EC 236 12C 300
ED 237 130 304
EE 238 133 307
EF 239 137 311
F0 240 13A 314
F1 241 13E 318
F2 242 141 321
F3 243 145 325
F4 244 148 328
F5 245 14C 332
F6 246 150 336
F7 247 153 339
F8 248 157 343
F9 249 15B 347
FA 250 15F 351
FB 251 162 354
FC 252 166 358
FD 253 16A 362
FE 254 16E 366
FF 255 172 370
100 256 176 374
101 257 17A 378
102 258 17D 381
103 259 181 385
104 260 185 389
105 261 189 393
106 262 18D 397
107 263 191 401
108 264 195 405
109 265 19A 410
10A 266 19E 414
10B 267 1A2 418
10C 268 1A6 422
10D 269 1AA 426
10E 270 1AE 430
10F 271 1B2 434
110 272 1B7 439
111 273 1BB 443
112 274 1BF 447
113 275 1C3 451
114 276 1C8 456
115 277 1CC 460
116 278 1D0 464
117 279 1D5 469
118 280 1D9 473
119 281 1DD 477
11A 282 1E2 482
11B 283 1E6 486
11C 284 1EB 491
11D 285 1EF 495
11E 286 1F3 499
11F 287 1F8 504
120 288 1FC 508
121 289 201 513
122 290 205 517
123 291 20A 522
124 292 20F 527
125 293 213 531
126 294 218 536
127 295 21C 540
128 296 221 545
129 297 226 550
12A 298 22A 554
12B 299 22F 559
12C 300 233 563
12D 301 238 568
12E 302 23D 573
12F 303 241 577
130 304 246 582
131 305 24B 587
132 306 250 592
133 307 254 596
134 308 259 601
135 309 25E 606
136 310 263 611
137 311 267 615
138 312 26C 620
139 313 271 625
13A 314 276 630
13B 315 27B 635
13C 316 280 640
13D 317 284 644
13E 318 289 649
13F 319 28E 654
140 320 293 659
141 321 298 664
142 322 29D 669
143 323 2A2 674
144 324 2A6 678
145 325 2AB 683
146 326 2B0 688
147 327 2B5 693
148 328 2BA 698
149 329 2BF 703
14A 330 2C4 708
14B 331 2C9 713
14C 332 2CE 718
14D 333 2D3 723
14E 334 2D8 728
14F 335 2DC 732
150 336 2E1 737
151 337 2E6 742
152 338 2EB 747
153 339 2F0 752
154 340 2F5 757
155 341 2FA 762
156 342 2FF 767
157 343 304 772
158 344 309 777
159 345 30E 782
15A 346 313 787
15B 347 318 792
15C 348 31D 797
15D 349 322 802
15E 350 326 806
15F 351 32B 811
160 352 330 816
161 353 335 821
162 354 33A 826
163 355 33F 831
164 356 344 836
165 357 349 841
166 358 34E 846
167 359 353 851
168 360 357 855
169 361 35C 860
16A 362 361 865
16B 363 366 870
16C 364 36B 875
16D 365 370 880
16E 366 374 884
16F 367 379 889
170 368 37E 894
171 369 383 899
172 370 388 904
173 371 38C 908
174 372 391 913
175 373 396 918
176 374 39B 923
177 375 39F 927
178 376 3A4 932
179 377 3A9 937
17A 378 3AD 941
17B 379 3B2 946
17C 380 3B7 951
17D 381 3BB 955
17E 382 3C0 960
17F 383 3C5 965
180 384 3C9 969
181 385 3CE 974
182 386 3D2 978
183 387 3D7 983
184 388 3DC 988
185 389 3E0 992
186 390 3E5 997
187 391 3E9 1001
188 392 3ED 1005
189 393 3F2 1010
18A 394 3F6 1014
18B 395 3FB 1019
18C 396 3FF 1023
18D 397 403 1027
18E 398 408 1032
18F 399 40C 1036
190 400 410 1040
191 401 415 1045
192 402 419 1049
193 403 41D 1053
194 404 421 1057
195 405 425 1061
196 406 42A 1066
197 407 42E 1070
198 408 432 1074
199 409 436 1078
19A 410 43A 1082
19B 411 43E 1086
19C 412 442 1090
19D 413 446 1094
19E 414 44A 1098
19F 415 44E 1102
1A0 416 452 1106
1A1 417 455 1109
1A2 418 459 1113
1A3 419 45D 1117
1A4 420 461 1121
1A5 421 465 1125
1A6 422 468 1128
1A7 423 46C 1132
1A8 424 470 1136
1A9 425 473 1139
1AA 426 477 1143
1AB 427 47A 1146
1AC 428 47E 1150
1AD 429 481 1153
1AE 430 485 1157
1AF 431 488 1160
1B0 432 48C 1164
1B1 433 48F 1167
1B2 434 492 1170
1B3 435 496 1174
1B4 436 499 1177
1B5 437 49C 1180
1B6 438 49F 1183
1B7 439 4A2 1186
1B8 440 4A6 1190
1B9 441 4A9 1193
1BA 442 4AC 1196
1BB 443 4AF 1199
1BC 444 4B2 1202
1BD 445 4B5 1205
1BE 446 4B7 1207
1BF 447 4BA 1210
1C0 448 4BD 1213
1C1 449 4C0 1216
1C2 450 4C3 1219
1C3 451 4C5 1221
1C4 452 4C8 1224
1C5 453 4CB 1227
1C6 454 4CD 1229
1C7 455 4D0 1232
1C8 456 4D2 1234
1C9 457 4D5 1237
1CA 458 4D7 1239
1CB 459 4D9 1241
1CC 460 4DC 1244
1CD 461 4DE 1246
1CE 462 4E0 1248
1CF 463 4E3 1251
1D0 464 4E5 1253
1D1 465 4E7 1255
1D2 466 4E9 1257
1D3 467 4EB 1259
1D4 468 4ED 1261
1D5 469 4EF 1263
1D6 470 4F1 1265
1D7 471 4F3 1267
1D8 472 4F5 1269
1D9 473 4F6 1270
1DA 474 4F8 1272
1DB 475 4FA 1274
1DC 476 4FB 1275
1DD 477 4FD 1277
1DE 478 4FF 1279
1DF 479 500 1280
1E0 480 502 1282
1E1 481 503 1283
1E2 482 504 1284
1E3 483 506 1286
1E4 484 507 1287
1E5 485 508 1288
1E6 486 50A 1290
1E7 487 50B 1291
1E8 488 50C 1292
1E9 489 50D 1293
1EA 490 50E 1294
1EB 491 50F 1295
1EC 492 510 1296
1ED 493 511 1297
1EE 494 511 1297
1EF 495 512 1298
1F0 496 513 1299
1F1 497 514 1300
1F2 498 514 1300
1F3 499 515 1301
1F4 500 516 1302
1F5 501 516 1302
1F6 502 517 1303
1F7 503 517 1303
1F8 504 517 1303
1F9 505 518 1304
1FA 506 518 1304
1FB 507 518 1304
1FC 508 518 1304
1FD 509 518 1304
1FE 510 519 1305
1FF 511 519 1305

References

Retrieved from "https://sneslab.net/mw/index.php?title=S-DSP/Gaussian_Filter&oldid=11666"