gpt4all-j


Find this model in the GPT4ALL model summary

Model source: https://huggingface.co/nomic-ai/gpt4all-j

gpt4all-j Model Summary Plots

gpt4all-j Model Selected Details
  layer_type N M Q alpha D alpha-hat log_SN rank_loss
layer_id                  
3 DENSE 4096 4096 1.00 4.74 0.03 7.61 1.60 6
4 DENSE 4096 4096 1.00 4.94 0.02 4.34 0.88 5
5 DENSE 4096 4096 1.00 4.42 0.02 6.83 1.55 5
6 DENSE 4096 4096 1.00 3.84 0.02 5.10 1.33 4
7 DENSE 16384 4096 4.00 5.22 0.04 13.41 2.57 0
8 DENSE 16384 4096 4.00 8.99 0.06 14.47 1.61 0
10 DENSE 4096 4096 1.00 4.29 0.02 7.41 1.73 8
11 DENSE 4096 4096 1.00 4.58 0.04 3.63 0.79 6
12 DENSE 4096 4096 1.00 3.68 0.02 5.48 1.49 8
13 DENSE 4096 4096 1.00 5.84 0.03 5.70 0.98 6
14 DENSE 16384 4096 4.00 3.12 0.01 7.71 2.47 0
15 DENSE 16384 4096 4.00 3.78 0.01 7.33 1.94 0
17 DENSE 4096 4096 1.00 3.81 0.02 6.25 1.64 5
18 DENSE 4096 4096 1.00 6.69 0.08 4.26 0.64 5
19 DENSE 4096 4096 1.00 2.81 0.05 4.05 1.44 6
20 DENSE 4096 4096 1.00 7.21 0.04 6.83 0.95 5
21 DENSE 16384 4096 4.00 2.96 0.01 8.75 2.96 0
22 DENSE 16384 4096 4.00 4.08 0.01 9.47 2.32 0
24 DENSE 4096 4096 1.00 3.32 0.06 4.97 1.50 5
25 DENSE 4096 4096 1.00 3.37 0.06 2.99 0.89 4
26 DENSE 4096 4096 1.00 4.15 0.02 6.05 1.46 4
27 DENSE 4096 4096 1.00 3.68 0.06 3.96 1.08 5
28 DENSE 16384 4096 4.00 2.90 0.01 7.17 2.47 0
29 DENSE 16384 4096 4.00 3.61 0.01 6.87 1.90 0
31 DENSE 4096 4096 1.00 2.42 0.05 3.59 1.48 5
32 DENSE 4096 4096 1.00 4.20 0.05 4.04 0.96 4
33 DENSE 4096 4096 1.00 6.30 0.05 9.47 1.50 3
34 DENSE 4096 4096 1.00 6.20 0.03 6.88 1.11 4
35 DENSE 16384 4096 4.00 3.22 0.01 7.69 2.39 0
36 DENSE 16384 4096 4.00 3.09 0.01 5.26 1.70 0
38 DENSE 4096 4096 1.00 3.98 0.01 6.04 1.52 5
39 DENSE 4096 4096 1.00 4.36 0.06 4.06 0.93 3
40 DENSE 4096 4096 1.00 4.16 0.03 6.22 1.50 5
41 DENSE 4096 4096 1.00 4.09 0.05 4.42 1.08 3
42 DENSE 16384 4096 4.00 3.29 0.01 7.81 2.38 0
43 DENSE 16384 4096 4.00 3.11 0.01 5.48 1.76 0
45 DENSE 4096 4096 1.00 4.12 0.02 6.50 1.58 5
46 DENSE 4096 4096 1.00 3.42 0.06 3.27 0.96 4
47 DENSE 4096 4096 1.00 4.51 0.02 6.73 1.49 4
48 DENSE 4096 4096 1.00 6.09 0.04 7.07 1.16 4
49 DENSE 16384 4096 4.00 3.25 0.01 7.84 2.41 0
50 DENSE 16384 4096 4.00 3.29 0.03 5.57 1.69 0
52 DENSE 4096 4096 1.00 4.06 0.02 6.63 1.63 4
53 DENSE 4096 4096 1.00 3.85 0.06 3.81 0.99 3
54 DENSE 4096 4096 1.00 4.15 0.02 6.39 1.54 4
55 DENSE 4096 4096 1.00 7.29 0.05 8.12 1.11 4
56 DENSE 16384 4096 4.00 3.08 0.01 7.60 2.47 0
57 DENSE 16384 4096 4.00 3.01 0.03 5.26 1.75 0
59 DENSE 4096 4096 1.00 4.15 0.02 6.99 1.68 4
60 DENSE 4096 4096 1.00 2.91 0.07 3.24 1.11 3
61 DENSE 4096 4096 1.00 4.61 0.02 7.21 1.56 4
62 DENSE 4096 4096 1.00 6.00 0.04 7.41 1.23 4
63 DENSE 16384 4096 4.00 3.24 0.01 8.08 2.49 0
64 DENSE 16384 4096 4.00 3.05 0.03 5.25 1.72 0
66 DENSE 4096 4096 1.00 3.74 0.01 6.50 1.74 4
67 DENSE 4096 4096 1.00 2.86 0.07 2.97 1.04 5
68 DENSE 4096 4096 1.00 4.04 0.03 6.35 1.57 3
69 DENSE 4096 4096 1.00 8.37 0.05 9.73 1.16 4
70 DENSE 16384 4096 4.00 3.33 0.01 8.16 2.45 0
71 DENSE 16384 4096 4.00 3.29 0.03 5.53 1.68 0
73 DENSE 4096 4096 1.00 3.69 0.01 6.54 1.77 4
74 DENSE 4096 4096 1.00 9.38 0.06 9.99 1.06 3
75 DENSE 4096 4096 1.00 3.72 0.03 6.08 1.63 4
76 DENSE 4096 4096 1.00 9.11 0.05 10.58 1.16 4
77 DENSE 16384 4096 4.00 3.28 0.03 8.16 2.49 0
78 DENSE 16384 4096 4.00 2.91 0.02 4.88 1.68 0
80 DENSE 4096 4096 1.00 3.55 0.02 6.47 1.82 5
81 DENSE 4096 4096 1.00 3.67 0.06 3.72 1.01 4
82 DENSE 4096 4096 1.00 4.69 0.03 7.65 1.63 5
83 DENSE 4096 4096 1.00 10.61 0.06 11.66 1.10 5
84 DENSE 16384 4096 4.00 3.44 0.02 8.40 2.44 0
85 DENSE 16384 4096 4.00 3.87 0.03 6.22 1.61 0
87 DENSE 4096 4096 1.00 3.64 0.02 6.25 1.72 4
88 DENSE 4096 4096 1.00 5.50 0.05 5.84 1.06 3
89 DENSE 4096 4096 1.00 4.24 0.05 6.72 1.58 5
90 DENSE 4096 4096 1.00 7.36 0.04 8.39 1.14 4
91 DENSE 16384 4096 4.00 3.05 0.03 7.66 2.51 0
92 DENSE 16384 4096 4.00 3.08 0.03 5.20 1.69 0
94 DENSE 4096 4096 1.00 3.94 0.02 6.80 1.73 5
95 DENSE 4096 4096 1.00 9.30 0.05 8.26 0.89 3
96 DENSE 4096 4096 1.00 4.76 0.04 7.58 1.59 3
97 DENSE 4096 4096 1.00 9.99 0.05 11.24 1.13 3
98 DENSE 16384 4096 4.00 3.21 0.02 7.99 2.49 0
99 DENSE 16384 4096 4.00 3.55 0.02 5.78 1.63 0
101 DENSE 4096 4096 1.00 3.48 0.02 6.02 1.73 5
102 DENSE 4096 4096 1.00 5.16 0.07 4.98 0.97 4
103 DENSE 4096 4096 1.00 3.30 0.03 5.35 1.62 5
104 DENSE 4096 4096 1.00 9.04 0.04 10.31 1.14 4
105 DENSE 16384 4096 4.00 3.18 0.03 7.95 2.50 0
106 DENSE 16384 4096 4.00 3.46 0.02 5.79 1.67 0
108 DENSE 4096 4096 1.00 3.71 0.01 6.48 1.75 5
109 DENSE 4096 4096 1.00 9.65 0.05 10.52 1.09 3
110 DENSE 4096 4096 1.00 3.49 0.03 5.68 1.63 4
111 DENSE 4096 4096 1.00 8.25 0.05 9.09 1.10 5
112 DENSE 16384 4096 4.00 3.17 0.03 7.87 2.48 0
113 DENSE 16384 4096 4.00 3.81 0.03 6.30 1.65 0
115 DENSE 4096 4096 1.00 3.62 0.02 5.91 1.63 3
116 DENSE 4096 4096 1.00 17.56 0.08 16.19 0.92 3
117 DENSE 4096 4096 1.00 5.02 0.04 7.77 1.55 3
118 DENSE 4096 4096 1.00 11.78 0.07 13.26 1.13 3
119 DENSE 16384 4096 4.00 3.15 0.03 7.84 2.49 0
120 DENSE 16384 4096 4.00 3.70 0.03 6.46 1.74 0
122 DENSE 4096 4096 1.00 3.85 0.01 6.22 1.62 4
123 DENSE 4096 4096 1.00 14.59 0.07 11.95 0.82 5
124 DENSE 4096 4096 1.00 3.63 0.03 5.66 1.56 3
125 DENSE 4096 4096 1.00 8.26 0.05 8.89 1.08 4
126 DENSE 16384 4096 4.00 3.34 0.03 8.27 2.47 0
127 DENSE 16384 4096 4.00 3.86 0.02 6.72 1.74 0
129 DENSE 4096 4096 1.00 3.54 0.01 5.79 1.63 4
130 DENSE 4096 4096 1.00 15.28 0.04 13.56 0.89 4
131 DENSE 4096 4096 1.00 4.47 0.02 7.05 1.58 3
132 DENSE 4096 4096 1.00 8.90 0.05 9.56 1.07 3
133 DENSE 16384 4096 4.00 3.17 0.03 7.80 2.46 0
134 DENSE 16384 4096 4.00 4.87 0.01 8.35 1.71 0
136 DENSE 4096 4096 1.00 3.13 0.02 5.08 1.62 4
137 DENSE 4096 4096 1.00 6.74 0.05 6.79 1.01 4
138 DENSE 4096 4096 1.00 3.02 0.02 4.70 1.56 4
139 DENSE 4096 4096 1.00 10.03 0.05 10.06 1.00 4
140 DENSE 16384 4096 4.00 3.20 0.03 7.97 2.49 0
141 DENSE 16384 4096 4.00 5.31 0.01 9.14 1.72 0
143 DENSE 4096 4096 1.00 4.06 0.02 6.58 1.62 4
144 DENSE 4096 4096 1.00 10.67 0.05 10.36 0.97 3
145 DENSE 4096 4096 1.00 3.98 0.01 6.32 1.59 3
146 DENSE 4096 4096 1.00 8.40 0.04 10.11 1.20 2
147 DENSE 16384 4096 4.00 3.12 0.03 7.72 2.47 0
148 DENSE 16384 4096 4.00 6.85 0.02 11.37 1.66 0
150 DENSE 4096 4096 1.00 3.89 0.02 6.15 1.58 4
151 DENSE 4096 4096 1.00 23.60 0.07 22.41 0.95 3
152 DENSE 4096 4096 1.00 3.68 0.01 5.73 1.56 4
153 DENSE 4096 4096 1.00 11.38 0.04 12.01 1.06 3
154 DENSE 16384 4096 4.00 3.35 0.03 8.30 2.48 0
155 DENSE 16384 4096 4.00 5.74 0.02 10.17 1.77 0
157 DENSE 4096 4096 1.00 3.91 0.02 6.18 1.58 4
158 DENSE 4096 4096 1.00 4.05 0.08 3.58 0.88 3
159 DENSE 4096 4096 1.00 3.75 0.02 5.74 1.53 4
160 DENSE 4096 4096 1.00 12.27 0.06 13.48 1.10 4
161 DENSE 16384 4096 4.00 3.38 0.04 8.34 2.47 0
162 DENSE 16384 4096 4.00 6.05 0.01 10.14 1.68 0
164 DENSE 4096 4096 1.00 3.38 0.03 5.56 1.64 3
165 DENSE 4096 4096 1.00 8.94 0.07 8.36 0.94 2
166 DENSE 4096 4096 1.00 3.33 0.02 5.23 1.57 4
167 DENSE 4096 4096 1.00 9.45 0.05 10.53 1.11 4
168 DENSE 16384 4096 4.00 4.93 0.04 12.05 2.44 0
170 DENSE 16384 4096 4.00 5.87 0.02 10.55 1.80 0
172 DENSE 4096 4096 1.00 3.87 0.03 6.19 1.60 4
173 DENSE 4096 4096 1.00 12.07 0.04 10.71 0.89 3
174 DENSE 4096 4096 1.00 3.68 0.02 5.67 1.54 5
175 DENSE 4096 4096 1.00 8.72 0.03 11.18 1.28 3
176 DENSE 16384 4096 4.00 4.99 0.04 12.04 2.41 0
177 DENSE 16384 4096 4.00 5.49 0.02 12.56 2.29 0
179 DENSE 4096 4096 1.00 4.05 0.02 6.30 1.56 3
180 DENSE 4096 4096 1.00 7.02 0.02 6.19 0.88 4
181 DENSE 4096 4096 1.00 3.85 0.01 5.76 1.50 4
182 DENSE 4096 4096 1.00 6.04 0.03 8.16 1.35 3
183 DENSE 16384 4096 4.00 4.71 0.02 11.34 2.41 0
184 DENSE 16384 4096 4.00 4.95 0.02 13.33 2.69 0
186 DENSE 4096 4096 1.00 3.90 0.02 6.16 1.58 4
187 DENSE 4096 4096 1.00 6.64 0.04 6.06 0.91 3
188 DENSE 4096 4096 1.00 3.53 0.01 5.34 1.51 4
189 DENSE 4096 4096 1.00 4.52 0.04 6.37 1.41 3
190 DENSE 16384 4096 4.00 4.21 0.02 10.08 2.40 0
191 DENSE 16384 4096 4.00 4.29 0.02 12.78 2.98 0
193 DENSE 4096 4096 1.00 4.49 0.02 7.29 1.62 3
194 DENSE 4096 4096 1.00 7.59 0.04 6.68 0.88 3
195 DENSE 4096 4096 1.00 3.86 0.01 5.66 1.47 4
196 DENSE 4096 4096 1.00 5.83 0.04 9.32 1.60 4
197 DENSE 16384 4096 4.00 3.84 0.03 9.41 2.45 0
198 DENSE 16384 4096 4.00 3.89 0.02 11.20 2.88 0